Elasticsearch “指纹”去重机制,你实践中用到了吗?
在 Elasticsearch 中,Fingerprint(指纹)通常指的是一种机制,用于为数据生成一个唯一的标识符或指纹。这个指纹是基于数据内容的一个哈希值,可用于识别和区分数据项。
Paimon VS Hudi 写入效率大PK
当然,这可能跟 Hudi 与 Spark 的关系更为亲密有关,下次有机会,咱再用 Spark 测试一次看看(期待真正的反转)。 那么对于本次测试的结论,你怎么看?
ES索引误删的名场面
虽然发布故障有点出其不意,但是团队在处理上还算体面妥当; 所以,魔幻的职场不重要,重要的是有魔幻的队友。
最近几个典型 Elasticsearch 线上易出错难排查问题汇集,咱们得避免!
使用 Elasticsearch 自动生成的ID不仅有助于提升性能,还能确保数据的一致性和唯一性,同时简化系统的设计和维护。这些优点使得在大多数情况下,使用系统生成的ID成为了一个更明智的选择。
穿越时间的引擎:解密 Kafka 消息的时序之谜
无论你的应用是金融交易、监控、日志记录还是其他领域,这些建议和最佳实践都将帮助你更好地处理 Kafka 消息延迟和时序性的挑战,确保数据的可靠性和一致性。
实时数据系统设计:Kafka、Flink和Druid
对于使用批处理工作流的数据团队来说,要满足当今的实时需求并不容易。为什么呢?因为批处理工作流,从数据传递和处理到分析,涉及很多等待。
基于Flink构建全场景实时数仓
本文目录: 一. 实时计算初期 二. 实时数仓建设 三. Lambda架构的实时数仓 四. Kappa架构的实时数仓 五. 流批结合的实时数仓
Elasticsearch 查询革新:探索 Wildcard 类型的高效模糊匹配策略
在生产使用中,Elasticsearch 除了精确匹配的要求,也会有模糊查询的场景。
无语!我是来面Java的,你怎么问我大数据的Kafka?
本文深入探讨了Kafka事务性消息的关键概念、应用场景、优势、配置、使用以及最佳实践。在总结中,让我们再次强调一些关键要点,并展望Kafka事务性消息的未来。
Dinky 玩起来如何(部署篇)?
前面文章聊过了 streampark,这不,应广大网友邀请,这次咱再来看看 Dinky (之前也叫 Dink),同样是另一款号称流式计算的开发管理平台。
最新版本——Hadoop3.3.6单机版完全部署指南
本文基于最新的 Hadoop 3.3.6 的版本编写,带大家通过单机版充分了解 Apache Hadoop 的使用。本文更强调实践,实践是大数据学习的重要环节,也能在实践中对该技术有更深的理解,所以一些理论知识建议大家多阅读相关的书籍
面试常用的shell命令汇总
看完find命令的 7 种用法后,开始提到的面试题现在好像很容易解决了。你现在可以直接写下它的答案并将其解释清楚吗?
数据湖和中央数据仓库的设计
设计数据湖或中央数据仓库是许多大型组织的主要职能,这些组织每天处理数百万笔交易,并对这些交易进行进一步的报告、预测或机器学习项目分析。
Elasticsearch 优化查询中获取字段内容的方式,性能提升5倍!
集群配置为:8 个 node 节点,16 核 32G,索引 4 分片 1 副本。应用程序的查询逻辑是按经纬度排序后找前 200 条文档。
数据湖和中央数据仓库的设计
设计数据湖或中央数据仓库是许多大型组织的主要职能,这些组织每天处理数百万笔交易,并对这些交易进行进一步的报告、预测或机器学习项目分析。 为了将所有来自源系统(我们称之为“上游”)到其他业务应用(所谓“下游”)的数据点整合在一起,已经成为数据智能或商业智能团队的一个不同的工程奇迹。在完成所有这些练习和从上游到下游的紧密依赖后,管理数据变得越来越难以通过所有数据管道进行检查。
对比Elasticsearch,使用Doris进行高效日志分析(下)
介绍对比使用Elasticsearch和Apache Doris进行日志分析。
StreamPark 是否值得一用(上)?
既然自诩是一个能实现低代码,完成从配置、开发、测试、部署、监控、运维于一体的智能化平台,那我们一会就从这几个方面着手去考察和验证,它到底好不好使。
对比Elasticsearch,使用Doris进行高效日志分析(上)
介绍对比使用Elasticsearch和Apache Doris进行日志分析。
Elasticsearch 线上实战问题及解决方案探讨
我有 1tb 的一个大索引若干,要迁移到另外一个新集群去,有没有好办法?reindex好像会中断......
Flink 的侧输出流,怎么玩?
所谓侧流输出(也叫旁路输出),指的是通过对读取的数据源(DataStream),根据不同的业务规则进行条件筛选,然后根据筛选后生成的不同数据分支,做不同的业务目的输出(比如写到不同的数据目的地中)。