数据领域主要分两个世界,一个OLTP(在线交易: 数据库),一个是OLAP(在线分析: 大数据)。OLTP基于ACID特性,OLAP中用到的技术是CAP理论和BASE理论。CAP是一致性(Consistency)、可用性(Availability)、分区容忍性(Partition tolerance)三者只能取其二,BASE是最终一致性。ACID是原子性(atomicity)、一致性(consistency)、隔离性(isolation)、持久性(durability)。这是两套世界的PK模式,当然也有HTAP,只不过目前来说做得都不好。
大数据主要分两种场景,一个是离线,一个是实时。离线主要面向经营分析类的需求(离线数仓),实时主要是实时计算,有微批和流两种实现方式。
下面是一幅实时处理价值指数级衰减的曲线:

1秒钟返回结果,1分钟返回结果,1小时返回结果,1天返回结果等等,它的价值是完全不一样的。如果是毫秒级或者微秒级直接响应的话,那就属于实时计算。应用场景很多,如风控场景、无人驾驶场景、工业场景等。
下面我们看一个Lambda架构,是一个流批独立的Function。上面橙色部分是批处理操作,原始数据通过批处理然后给到不同的服务的界面,供查询使用;下面是流计算当中的实时场景,这里并不分两段,而是直接供给给下游消费。

举一个实时监控响应的应用:

系统端的数据会实时产生,通过Flume可以采集(也可以由Mysql或者Log直接给到Kafka),给到Kafka,就完成了数据的收集。通过Flink完成计算,存到CK或关系型数据库中,最后用阿里的QiuckBI或开源的Supperset展示。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70015587/viewspace-2881185/ ,如需转载,请注明出处,否则将追究法律责任。