实施混合式数据分析平台的三个步骤
过去八年间,数据中台及其“统一数据、统一服务、统一身份(One data, one service, one ID)”理念的广泛采用,推动了中心化数据平台和职责的普及。
LLM大模型向量数据库技术架构浅析
AI 智能时代,开发者需要一个真正的向量数据库吗?答案很简单,这取决于开发者的应用场景。举个例子,晚饭选择去一家五星级餐厅用餐或是是快餐店,往往和你的胃口和期望有关。
Kafka 在分布式系统中的 7 大应用场景
Kafka 最初是为分布式系统中海量日志处理而设计的。它可以通过持久化功能将消息保存到磁盘直到过期,并让消费者按照自己的节奏提取消息。与它的前辈不同(RabbitMQ、ActiveMQ),Kafka 不仅仅是一个消息队列,它还是一个开源的分布式流处理平台。
DataOps是现代数据栈的未来吗?
与 DevOps将 CI/CD 应用于软件开发和运维的方式类似,DataOps需要一种类似于CI/CD、自动化优先的方法来构建和扩展数据产品。同时, DataOps使数据工程团队更容易为分析师和其他下游使用人员提供可靠的数据来驱动决策。
海量小文件存储低效的根源及优化实践
归档最初的设计是针对历史数据的永久性保存,将时间久远的历史数据处理完成后转存至NAS上,再由备份恢复软件进行离线出库。
架构思考:不靠谱的组件与可靠的系统
从工程实践层面讲,单个组件的迭代和优化属于具象化的,是可见可控的。流程和架构的持续迭代是抽象的,根据情况的不同和干系人的不同会有不同的办法和演进思路。
阿里VS华为:企业层面数据要素价值利用研究
企业层面数据要素价值利用工作要在明确战略目标的前提下,细化阶段目标、分步骤实施。数据要素价值利用是一项长期的系统性工程,投入规模往往较大,还会涉及组织和流程的调整,因此需要协调企业内部全体成员及业务部门达成共识。
核心替换国产操作系统是否可行?
如果要替换是否有过渡方案,比如迁移到Redhat和X86服务器上,验证可行之后在迁移到国产服务器和操作系统上?或者是否有更好建议?
阿里的业务是怎么被中台玩坏的?
在大型企业里,如果有一项职能是共有的,被多个部门依赖。那么这种共有的职能就可以独立出来作为服务平台。在很多大型企业例如苹果、三星等这种公司早早就诞生了类似的部门。
AIGC时代的算力基石,未来的数据平台将如何演进?
想象一下,未来我们所有的行为、所有的数据都被记录在智能化的数据平台里。甚至在不久的将来,利用AIGC的技术,可以合成生动的数字人。就好像流浪地球二一样,我们甚至可以通过AI和死去的亲人进行逼真的对话。
数据湖在爱奇艺数据中台的应用
作为爱奇艺的数据中台团队,我们的核心任务是管理和服务公司内的大量数据资产。在实施数据治理的过程中,我们不断吸收新的理念,引入尖端的工具,以精细化我们的数据体系管理。
数据中台建设要秉承“三步法”
数据中台的第一阶段建设以最为基础的各项能力建设为主,其中不可或缺的包括对于技术平台工具的搭建,以及完成基础数据架构及技术架构的设计。
使用Falcosidekick将运行时安全集成到现有环境中
虽然这些输出可能足以让你开始使用,但大多数从业人员希望将 Falco 与他们已经使用的工具集成。这就是Falcosidekick[2]的用武之地。
农业银行湖仓一体实时数仓建设探索实践
实时数仓在离线数仓基础上进一步满足时效性的要求,依托流批一体、湖仓一体、云计算等技术,兼具时效性和灵活性优势,可作为金融业实时数据的生产、存储和使用平台。
降低用户使用门槛,向量数据库与大模型联合开发产生“飞轮效应”
用好大模型,离不开向量数据库。在大数据中寻找有用信息,必须通过向量数据库来解决高维数据复杂的关系和模式,这也是数据库领域常说的“专库专用”。
不同虚拟化方案或平台造成信创迁移难点如何解决?
采用什么方案主要是与公司的技术路线相关,当前的虚拟化、超融合、云解决方案,基本上都能很好的支持信创操作系统,选择一款合适的产品基于企业规模,后续规划,技术路线等多个方面考虑。
云平台下存储运维的变革与实践
随着银行数字化转型升级进程的加快,IT系统架构越来越复杂,软件更新迭代越来越快。
基于云原生的银行业务系统运维研究与实践
云原生是一种构建和运行应用程序的方法,是一套技术体系和方法论,应用程序从设计之初即考虑到云的环境,充分利用和发挥云平台的“弹性+分布式”优势,在云上以最佳的方式运行。
数据仓库在数据治理过程中会出现什么难题?
随着企业数据量的不断增加,数据治理变得越来越重要,在数据治理过程中,数据仓库扮演着重要角色。
数字化时代,零售业数据治理怎么做?
在数字化时代,数据已成为零售业的核心资产,而数据治理则成为零售业成功运营的关键因素之一。