?手把手教你了解Transformer —Part 1
本文引用和翻译自Fareed Khan的文章。作为计算机的方面的从事人员,每个人应该或多或少的了解下Tran
为什么不能用Spark来训练大模型?
目前针对广告/推荐CTR场景,一般采用Parameter Server的方式进行分布式训练,简称Ps,Ps可
Spark系统与架构系列:内存机制
在Spark中,Executor是运行在每个工作节点上的计算单元,负责执行任务并管理内存资源。其中,每个Ex
JVM 垃圾回收器
我们都知道java的默认垃圾回收器是jdk1.8默认垃圾收集器Parallel Scavenge(新生代)+
Spark系统与架构系列:SparkConf 配置与传播
在spark循环程序中,sparkConf主要衍生了Spark程序进行资源配置、性能调节、功能切换、参数传递
Mysql最全索引与优化详解
mysql 是我们最常用的数据存储的的程序,它是关系数据库的代表,可以直接服务于我们的常规业务,是我们不能离
探索TensorFlow核心组件系列之Session的运行源码分析
TensorFlow是一个前后端分离的计算框架,这样的架构可以使得前端可以在任何地方任何设备上使用API进行
探索推荐系统中的大模型训练策略与解决方案
为什么人们如此热衷听ChatGPT一本正经地胡说八道?不是它聪明到不犯错,而是它聪明到犯的错误跟人特别像,这
python 函数的本质理解
对于习惯了Java等面向对象语言,可能会对其任何对象都可以用类来表示已经习惯,但是python语言的灵活多变
?Spark架构与原理系列:Spark 事件监听机制
Spark中不同组件间的通信使用Rpc进行远程通信(Driver, executor,client)。而在同
Spark架构与原理系列:Spark Metric 度量系统
Spark Web UI是直观地展示运行状况、资源状态等监控数据的前端,而MetricsSystem就负责收
Java Hello world 源码执行流程详解
hello world 程序作为我们学习的第一个程序,看起来很简单,但是要理解其执行的具体流程还是需要很深的
Spark架构与原理系列:Spark程序执行流程
Spark是一个分布式的大数据计算引擎。随着生态的发展,现在已经变成一个通用的计算框架,其集成了SQL查询,
杂谈:go 语言string之解析
最近研读了下go语言,所以想整理一番string 在go中如何定义的?string 的底层原理与细节?str
Spark架构与原理系列:Spark RDD 分布式弹性数据集
rdd是一种弹性分布式的数据集,它代表着不可变的数据元素,可以被分区并行处理。rdd是一个粗粒度的数据生成方
Spark架构与原理系列: Spark RDD 的分区与依赖关系
Spark定义了RDD间的依赖关系,使用类进行表示:abstract class Dependency[T]
探索TensorFlow核心组件系列之Graph的底层机制
Graph(计算图)是TensorFlow的核心组件。在TensorFlow中,Graph承担着重要的角色,
Spark的Dataflow与TensorFlow的Dataflow本质上有什么区别?
如果从宏观上说,确实没有什么区别。毕竟Tensorflow框架据说就是一帮搞数据的人设计写的,Pytorch
如何看待Ray框架,其能否替代Spark框架?
首先,目前很火的ChatGPT就是使用Ray框架进行训练的,当前Ray最适合的就是强化学习的训练,这也是它的
马斯克的脑机接口公司 Neuralink 官宣获 FDA 批准,具有哪些意义?
在5月25号,马斯克的脑机接口公司 Neuralink 获得了FDA 批准,它的最大的意义就是可以将Neur