AIGC时代谷歌能够避免MapReduce和TensorFlow的历史重演吗?
本文部分内容翻译和引用自MATTHEW LYNLEY可以说,Transformer已经成为现代AI技术背后的
大数据团队面临的危机与未来
在过去的几年里,数据一直处于高速增长的模式,数据即新时代的“石油”的口号也一直被传颂。互联网“病毒式”的快速
Apache Iceberg表格式性能优化工具之压缩
目前数据湖难就难在,对于普通使用者来说需要很多的配置,配置好就可以提供较好的性能,相反性能则一直提不上去。数
细节对比:GPT系列模型的变化
随着生成式预训练模型的成功(GPT),似乎什么都可以采用生成式预训练模型来处理。通过“大力出奇迹”似乎什么问
数据湖新秀-Apache Paimon流式数据湖
ApachePaimon 来源于 Flink Table Store, 其核心是想打造一套适合Flink流水
聊一聊TensorFlow编译优化技术XLA的实现
加速深度学习模型的训练和推理一直是搞算法同学的痛点。而编译优化的优点就是可以在运行时对源代码进行转换和重组来
Nvidia DGX GH200到底有多炸裂?
最近,大家都在关注LK-99是否可以被复现成功,是否能够引来新一轮的产能升级,降低内卷的程度。但其实Nvid
?详解Apache Iceberg的数据写入与更新细节
Apache Iceberg有着复杂的树形元数据层,这个既是其优点又是其缺点。随着AI大模型的发展,数据中心
快速提升Apache Spark查询速度的5个技巧
当处理大规模数据集时,Apache Spark是一个强大的工具,但有时查询速度可能会成为瓶颈。为了快速提升A
谈一谈Apache Iceberg的数据读取过程
今天我们来聊一聊Apache Iceberg数据查询过程,以及它如何进行Skip File的进行加速的。对于
Apache Beam可以替代Flink与Spark吗?
你难道还不知道Apache Beam?Apache Beam 是用于批处理和流数据处理作业的统一编程模型,是
一文搞懂Transformer、GPT、ChatGPT、LLM、AIGC和LangChain的区别
随着ChatGPT的爆火,很多AI概念风靡互联网,让人目不暇接。从Transformer到GPT、Bert以
BypassMergeSortShuffleWriter和HashShuffle有什么区别?
其实BypassMergeSortShuffleWriter 和已经废弃的HashShuffleWriter是类似的
端到端和非端到端的Embedding
说起 Embedding,我想你肯定不会陌生,自从深度学习流行起来之后,Embedding 就成为了深度学习
Apache Spark:我是否应该重分区?
同样的Spark任务,分区不同,最终的任务执行时效也是相差很大。如果分区数太小,则并行度较低,它可能会导致严
如何处理 Apache Spark 中的数据倾斜
你的Spark程序变慢了,十有八九是出现了数据倾斜。可见数据倾斜是Spark性能挑战越不过去的坎。那么什么是
Remote Shuffle Service 和 Push-based Shuffle 他们的优劣分别是什么?
在之前的文章中,留有很多的坑,本来是想如果有时间一点点的展开细说,但是现实的情况是时间是有限的。趁着现在也许
使用 ChatGPT 来改进Coding的 3 种有效方法
可以说最近几个月我一直在使用ChatGPT来辅助编程。我可以诚实地说,虽然说ChatGPT并不是万能和完全正
手把手教你了解Transformer —Part 2
Transformer是由论文《Attention is All You Need》提出,它的并行化的能力使
数据架构的过去、现在和未来
本文引用和翻译自Diogo Santos的文章。我们来讨论下数据架构的变革、变革的动机以及对数据未来的影响。