ITPub博客

首页 > 大数据 > ELK > 实时计算小括

实时计算小括

原创 ELK 作者:carr_fu 时间:2022-03-22 00:42:33 0 删除 编辑

       数据领域主要分两个世界,一个OLTP(在线交易: 数据库),一个是OLAP(在线分析: 大数据)。OLTP基于ACID特性,OLAP中用到的技术是CAP理论和BASE理论。CAP是一致性(Consistency)、可用性(Availability)、分区容忍性(Partition tolerance)三者只能取其二,BASE是最终一致性。ACID是原子性(atomicity)、一致性(consistency)、隔离性(isolation)、持久性(durability)。这是两套世界的PK模式,当然也有HTAP,只不过目前来说做得都不好。

       

       大数据主要分两种场景,一个是离线,一个是实时。离线主要面向经营分析类的需求(离线数仓),实时主要是实时计算,有微批和流两种实现方式。


       下面是一幅实时处理价值指数级衰减的曲线:

1秒钟返回结果,1分钟返回结果,1小时返回结果,1天返回结果等等,它的价值是完全不一样的。如果是毫秒级或者微秒级直接响应的话,那就属于实时计算。应用场景很多,如风控场景、无人驾驶场景、工业场景等。


      下面我们看一个Lambda架构,是一个流批独立的Function。上面橙色部分是批处理操作,原始数据通过批处理然后给到不同的服务的界面,供查询使用;下面是流计算当中的实时场景,这里并不分两段,而是直接供给给下游消费。


       举一个实时监控响应的应用:

系统端的数据会实时产生,通过Flume可以采集(也可以由Mysql或者Log直接给到Kafka),给到Kafka,就完成了数据的收集。通过Flink完成计算,存到CK或关系型数据库中,最后用阿里的QiuckBI或开源的Supperset展示。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70015587/viewspace-2881185/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2022-03-21

  • 博文量
    54
  • 访问量
    1397