-
编辑 删除
大模型：泛化即智能，压缩即一切
如果你认同Scaling Law定律，你就应该相信通过大量不同的数据来追求长期的模型泛化能力比短期的通过巧妙的模型微调更重要，这个想法在机器学习先驱 Rich Sutton 《苦涩的教训》中也有所体现。所以说，记忆是通向泛化的第一步。
-
编辑 删除
OpenAI联合创始人通俗解读大语言模型
如果我们将大语言模型进行拆解，以进行形象的比喻，那么大语言模型本质上由两个核心组件构成：一个巨大的参数文件和一个运行这些参数的代码文件。
-
编辑 删除
Sora与ChatGPT引发的思考
大家好，我是Tim。几天前OpenAI进一步推出了其文生视频的模型Sora，再次引起了轰动。
-
编辑 删除
国内大厂GPU CUDA高频面试问题汇总二
整体情况简介面试中的问题基本上分成以下几类：1. 基础的八股文：C/C++，OS，计算机体系结构等。
-
编辑 删除
国内大厂GPU CUDA高频面试问题汇总一
1. 你可以简单说下CUDA的线程组织结构吗？相对于GPU硬件结构来说，CUDA是一个并行计算的编程模型，它是基于GPU的体系结构设计的。
-
编辑 删除
一文全面图解Parquet文件格式
Parquet在设计之初没有和任何数据框架绑定在一起，基于Hadoop生态的，目前在 Spark、Arrow等社区对Parquet有更好的支持，ORC主要来源于Hive社区，在文件数据量不大的ORC存储压缩效率和读取性能是胜过Parquet
-
编辑 删除
大厂Spark面试题，搞懂这些绝对稳稳的
Spark的基础知识如工作流程，RDD，架构原理都是最基础的这个是必要需要了解的，但是面试官的问法可能就没那么
-
编辑 删除
全面解析GPU CUDA Core, 为什么Tensor Core可以加速深度学习
大家好，我是Tim。在Nvidia机器中GPU与CUDA一直是双宿双飞的，CUDA是其中的平行处理平台，CUDA Core则是GPU内部的处理单元。
-
编辑 删除
深入理解GPU硬件架构及运行机制
转载和翻译于Understanding the architecture of a GPU曾看到有一篇名为《
-
编辑 删除
谁说程序员不懂幽默和浪漫
谁说程序员不懂幽默和浪漫的，这不开发Python JIT的老哥就在PR里写了首诗：圣诞前夜，代码世界里静谧无
-
编辑 删除
理解GPU中的各种内存类型，为什么SRAM和L1Cache被视为同一个内存区域
大家好，我是Tim。在我们之前介绍flashAttention的实现原理的时候，就介绍了在Cuda中利用高性
-
编辑 删除
Spark SQL 查询计划是如何执行的，深入探究Spark QueryExecution执行过程
大家好，我是Tim。在之前我们已经深入的解析过Spark SQL中的AQE、DPP等实现源码，但是并没有对S
-
编辑 删除
为什么不要在Spark中执行这个操作，详解DataFrame collect源码流程
大家好，我是Tim。相信很多Spark新手经常听到过这个劝告：”当你在编写Spark SQL DataFra
