Spark内存管理模型详解
Execution 占用对方内存,目前的实现是无法让对方"归还"的。因为 Shuffle 过程产生的文件在后面一定会被使用到,而 Cache 在内存的数据不一定在后面使用,归还内存可能会导致性能严重下降。
云原生Serverless关键技术解析
Serverless 技术的崛起标志着云原生时代的来临,它将为应用开发带来全新的变革,随着越来越多的开发者和企业采用 Serverless 技术,我相信 Serverless 技术将成为未来云原生架构的重要支柱之一,推动企业数字化转型的进程。
如何开辟数据智能的“北坡”路线?
与传统的数据治理ETL模式不同,X-Engine提供的是一张虚拟的表,生成这个表无需耗费计算存储资源,只有访问数据的时候才进行计算。
准备自建大数据平台了,有哪些开源组件推荐?
当前针对大数据平台/数据中台并没有完整的可用的开源产品。这里说的开源软件,更多的是数据中台依赖的一些开源组件。
企业何时不应使用生成式人工智能
过去一年,生成式人工智能(GenAI)的采用率呈爆炸式增长。2023年Gartner企业机构AI调研发现,GenAI是受访企业部署最广泛的AI技术之一。
数据要素在各行业转化生产要素的应用场景
数据要素如何在工业制造、农业、医疗健康、金融服务、交通运输、商贸流通、科技创新、文化旅游、政务服务等领域转化为创新动力,推动行业高质量发展。
数据治理:现状、框架与提升投入产出比
提升数据治理的投入产出比需要企业从战略层面到执行层面进行全面的规划和管理。通过明确目标、优化资源配置、强化技术和流程、培养数据文化以及持续监控和改进,企业可以有效地提升数据治理的效率和效果,实现数据资产的最大价值。希望这些策略能够为企业提供实际可行的方法来提升数据治理的投入产出比。
国内数据库行业需求深度分析
国内数据库市场的总容量接近300亿元人民币。其中,关系型数据库占据主导地位,估计占据了260亿甚至更多。相比之下,非关系型数据库虽然种类繁多,但在实际需求和商业价值上,目前仍处于相对较小的份额。
某国产数据库救援现场惊魂8小时
海量的数据库产品严重割裂了市场,大多数国产数据库厂商生存并不容易,为了拿到项目彼此之间相互攻击的现象非常普遍,同时也给客户的选择带来很大的困难,PPT上讲的都很好,只有真正经历过的才能深刻体会其中的酸甜苦辣!
Apache RocketMQ 中文社区全新升级!
Apache RocketMQ 社区的持续发展和不断壮大,离不开创始团队和众多开发者多年来的努力。为了回馈众多优秀的小伙伴们一直以来积极参与社区建设、对社区的发展作出杰出的贡献,现Apache RocketMQ 社区重大升级。
探索Serverless架构下企业资源降本增效的新路径
几年前,如果有人提Serverless这一概念,很多人会认为这是公有云厂商为了卖云服务而包装出来的一个“兜售概念”。但是现在,Serverless已演进为一种新型架构,是云原生发展的终极方向,该架构已被广泛应用于大数据、数据库场景。
银行业数据中心搬迁实践难点解析
数据中心“搬家”是银行发展历程中的重大事件,当数据中心现有规模不能满足业务的不断拓展,或者技术更新迭代、成本优化、安全合规、机房租赁到期等相关要求发生变化时,数据中心搬迁势在必行。
基于AI大模型的数据治理
数据治理变得尤为重要。随着大数据技术的不断发展,数据规模呈爆炸式增长,数据来源也日趋多样化。如何有效地管理和利用这些数据,成为了企业和社会关注的焦点。本文将探讨在大模型下如何进行数据治理。
流模式vs批模式:你选对了吗?
在选择 Flink 作业的执行模式时,不能仅凭某一种规则进行“一刀切”式的判定,而应结合场景的需求和特点,具体问题具体分析,做出正确选择。
从蓝屏事件谈起,再谈云时代的业务连续性
当初上云的时候主要还是考虑成本的问题,上云可以大幅削减IT运营成本,用更低的成本来达成更高的SLA目标,这是很多企业领导选择上云的最重要的因素。
为什么说AI大模型救了云计算的命?
任何一次技术革命的到来,都会引发整个产业链的洗牌和重构。在这个过程中,最先从中获益的,也许并不是直接参与技术创新的企业,而是那些为创新企业提供基础设施和底层支撑的公司。
数据治理究竟是“治理”什么
数字化时代,一切都是围绕数据展开的。其中有一个概念非常重要,就是“数据治理”。
从治理到“智”理,打造新一代金融数据体系
大模型完全可以推动传统数据治理向脱离人工的自动化、随着业务变化自主迭代的自适应化的全新智能阶段跃进,以实现一个消费常态化、功能任务化、增效平民化与数据多模化的新一代数据智理“体”系
Apache Paimon 在蚂蚁的应用
Paimon 是一个流批一体的存储,支持流读、批读、Time Travel 的方式查询、维表点查、全增量一体消费,也支持流式写入和批式导入。总的来说,流批场景里都有它适用的场景。
从数据仓库到数据湖再到湖仓一体
从数据的流入流出过程,可以分为三层:源数据、数据仓库、数据应用,数据仓库只是一个中间桥梁。