城商行分布式对象存储方案架构设计及实践
通过部署生产主站点和同城备份站点的容灾方案,存储系统可以提供全天候7*24小时的连续稳定服务。配合上每个站点的弹性EC保障,在满足6个9(99.9999%)可靠性的同时,实现不低于75%的资源利用率。
浅谈G行数据湖平台建设
G行数据湖项目的建设取得了一定的成果,基本实现了全行数据的统一存储和管理,支持了越来越多的基于数据共享和多维分析的业务场景,也助力数仓实现了数据的进一步加工和提取,使得业务应用的集市化建设更加便捷。
开源与自研的“战火”在大模型时代重燃
这几天朋友圈异常热闹,导火索来自前阿里AI科学家贾扬清的一则消息,他说某国产大模型抄袭了META 的LLaMA架构,并且只换了几个变量名称就说成是自研,谴责这种行为没有底线。
基于Doris实时数据开发的一些注意事项
Doris的发展大家是有目共睹的。例如冷热分离等新特性的持续增加。使得Doris在易用和成本上都有大幅提升。
基于中银智能风控平台的应用探索
大模型,又称为预训练模型、基础模型等,凝练了大数据内在精华的“隐式知识库”,是实现人工智能应用的载体。
大型商业银行主机架构转型DDD实践
DDD可扩展架构的基本思想就是拆,多维度对系统进行拆解,将整体分解相对独立的部分,将每个部分的复杂度控制在一定范围内。
大连银行负载均衡一体化智能运维平台建设
银行作为对网络可用性、可靠性、安全性、连续性要求极高的金融机构,日常运维涉及资产管理、监控巡检、故障处置、维护变更、备份恢复等多方面管理需求,都会占用大量运维资源及人力成本。
Kafka 正在成为新一代数据湖?
数据湖将成为管理大量原始、非结构化和半结构化数据的基础。它可以将历史数据存储为单一事实来源,这对于在不同部门和团队之间保持数据一致性、完整性和可信度是至关重要的。
分布式存储 Ceph 架构原理
Ceph本身的架构比较清晰明了,主要分应用接口层、存储基础接口层以及存储对象层,接口层主要对客户端的访问负责,分为本地语言绑定接口(C/C++, Java, Python)、RESTful (S3/Swift)、块存储设备接口、文件系统接口。从这个点上,其完整诠释了“统一性( unified )”的特性。
实施混合式数据分析平台的三个步骤
过去八年间,数据中台及其“统一数据、统一服务、统一身份(One data, one service, one ID)”理念的广泛采用,推动了中心化数据平台和职责的普及。
LLM大模型向量数据库技术架构浅析
AI 智能时代,开发者需要一个真正的向量数据库吗?答案很简单,这取决于开发者的应用场景。举个例子,晚饭选择去一家五星级餐厅用餐或是是快餐店,往往和你的胃口和期望有关。
Kafka 在分布式系统中的 7 大应用场景
Kafka 最初是为分布式系统中海量日志处理而设计的。它可以通过持久化功能将消息保存到磁盘直到过期,并让消费者按照自己的节奏提取消息。与它的前辈不同(RabbitMQ、ActiveMQ),Kafka 不仅仅是一个消息队列,它还是一个开源的分布式流处理平台。
DataOps是现代数据栈的未来吗?
与 DevOps将 CI/CD 应用于软件开发和运维的方式类似,DataOps需要一种类似于CI/CD、自动化优先的方法来构建和扩展数据产品。同时, DataOps使数据工程团队更容易为分析师和其他下游使用人员提供可靠的数据来驱动决策。
海量小文件存储低效的根源及优化实践
归档最初的设计是针对历史数据的永久性保存,将时间久远的历史数据处理完成后转存至NAS上,再由备份恢复软件进行离线出库。
架构思考:不靠谱的组件与可靠的系统
从工程实践层面讲,单个组件的迭代和优化属于具象化的,是可见可控的。流程和架构的持续迭代是抽象的,根据情况的不同和干系人的不同会有不同的办法和演进思路。
阿里VS华为:企业层面数据要素价值利用研究
企业层面数据要素价值利用工作要在明确战略目标的前提下,细化阶段目标、分步骤实施。数据要素价值利用是一项长期的系统性工程,投入规模往往较大,还会涉及组织和流程的调整,因此需要协调企业内部全体成员及业务部门达成共识。
核心替换国产操作系统是否可行?
如果要替换是否有过渡方案,比如迁移到Redhat和X86服务器上,验证可行之后在迁移到国产服务器和操作系统上?或者是否有更好建议?
阿里的业务是怎么被中台玩坏的?
在大型企业里,如果有一项职能是共有的,被多个部门依赖。那么这种共有的职能就可以独立出来作为服务平台。在很多大型企业例如苹果、三星等这种公司早早就诞生了类似的部门。
AIGC时代的算力基石,未来的数据平台将如何演进?
想象一下,未来我们所有的行为、所有的数据都被记录在智能化的数据平台里。甚至在不久的将来,利用AIGC的技术,可以合成生动的数字人。就好像流浪地球二一样,我们甚至可以通过AI和死去的亲人进行逼真的对话。
数据湖在爱奇艺数据中台的应用
作为爱奇艺的数据中台团队,我们的核心任务是管理和服务公司内的大量数据资产。在实施数据治理的过程中,我们不断吸收新的理念,引入尖端的工具,以精细化我们的数据体系管理。