-
编辑 删除
解读ChatGPT中的RLHF
RLHF的主要任务是生成奖励模型，通过人类偏好为输入文本分配标量奖励，并使用增强学习对大型语言模型进行微调。同时，RLHF可能会产生偏差，需要使用相应的缓解策略。通过强化学习和监督式学习中微调的对比，可以了解到二者结合使用的可能性...
-
编辑 删除
解读Toolformer
微软的TaskMatrix.AI是Toolformer 和 chatGPT 的结合，将基础模型与数百万个 API 连接起来以完成任务。那么，什么是 Toolformer 呢？......
-
编辑 删除
解读TaskMatrix.AI
TaskMatrix.AI或将成为一个平台，允许人类利用大模型和 API 执行大量多样化的任务。它能处理每一个普通的任务 ，让我们更有生产力和创造力...... 或许，“AI的数量每18个月翻一番”会成为一个新的定律。
-
编辑 删除
老码农眼中的大模型（LLM）
从老码农的视角观察了大模型的工作原理，探讨了相似度计算中的点积相似度和余弦相似度，以及如何为大模型引入外部知识。此外，还简述了增强大模型的方法 ......
-
编辑 删除
《深入浅出Embedding》随笔
模型如大厦，嵌入似砖瓦。如果说ChatGPT的核心运行机制是Transformer，核心数据机制或许就是Embedding了，Embedding无所不在，那么，什么是Embedding呢？... ..
-
编辑 删除
从数据管理到数据资产管理
数据已经与土地、劳动力、资本、技术并称为五种生产要素。从信息时代到数字时代，数据由记录业务逐渐转变为智能决策，成为了组织持续发展的核心引擎。从数据采集到数据管理，再数据资产的形成，数据资产管理将朝着统一化、专业化、敏捷化的方向发展.....
-
编辑 删除
关于原子服务的思考
原子服务是一个严重依赖上下文语境的抽象概念，在涉及原子服务的设计、架构和工程实现的时候，需要先明确原子服务的概念空间，进而确定应用的领域，或许才能体现出原子服务的具体价值.....
-
编辑 删除
温故知新之GPU计算
据说，ChatGPT用了5000块GPU，而对于普通工程师而言，看看过去，或许可以帮助望见未来......
-
编辑 删除
异想天开！没有CPU的操作系统
如果CPU不再是现有操作系统的中心组件，会从根本上改变软件在CPU上的编写方式吗？......
-
编辑 删除
一种编译器视角下的python性能优化
“Life is short，You need python”！但与直接使用Python相比，如何可以在不影响高级简单性的情况下匹配C/C++性能呢？
-
编辑 删除
机器学习与微分方程的浅析
概念上的澄清，机器学习与微分方程有着怎样的区别呢？
-
编辑 删除
操作系统中的系统抽象
计算机的惊人进步是通过人们创造和使用系统抽象而实现的，操作系统的系统抽象只是用来组织大型系统的一些系统抽象。遗憾的是，现实生活中的工程师们很少讨论大型程序以及编译器的抽象，也很少讨论系统抽象.....
-
编辑 删除
数据架构中的数据问题
任何软件系统都需要以数据为中心来考虑基本架构。随着技术的发展，尤其是NewSQL，NoSQL 以及多开发语言环境下的存储、可伸缩性和可用性（最终一致性）、事件溯源和分析的不断挑战，AI与机器学习的日渐普及 ......
-
编辑 删除
机器学习系统架构的10个要素
从机器学习生命周期的角度来看，一个通用的系统架构涵盖了关键的机器学习阶段，从开发机器学习模型，到部署训练系统和服务系统到生产环境......
-
编辑 删除
一文弄清混合云架构模式
这些混合云架构模式的决策是复杂的，通常会涉及到几个不同情况的关注程度，每种情况都需要全面的权衡分析，甚至可以使用多种模式来实现企业的解决方案......
-
编辑 删除
软件架构的10个质量属性
本文描述了软件的10个质量属性， 但不意味着每个质量属性都会在架构设计中呈现，可以挑选对产品最重要的质量属性，然后进行实现....
-
编辑 删除
端边云协同：从云到边缘
?从云到边缘，应用程序与边缘基础设施的托管、互连、执行、存储和管理，这种解耦与功能强大的软件定义范式相一致，在需求和功能上紧密交织。这些边缘是基础设施的组成部分，它将使更丰富的智能能够影响物理系统，并有助于它们的有效控制。
-
编辑 删除
不了解持续架构会落伍么？
信息技术是一个日新月异的领域，从自身的发展到学科的教程，再到应用场景的无处不在，导致每天甚至每时每刻都可能会有新的技术或者新的方法涌现出来。那么，对于一个工程师而言，不了解并学习持续架构会落伍么？......
-
编辑 删除
QCon： 工程师成长的金字塔思维
软件正在重新定义世界，那对我们而言，工程师的成长是为了更好地重新定义软件......
-
编辑 删除
《 持续架构实践 》译者序
持续性架构在Gartner 2023中处于10大技术趋势之一，希望《持续架构实践》一书可以给大家带来帮助......
