ITPub博客

IBM Research 的 AIU 系列原型芯片设计指向了一个未来：AI 计算更高效、更省电、能力更强。 世界的计算方式正在发生转变。我们长期以来在生活和工作的许多方面依赖计算机，但在过去十年中，全球对 AI 应用的需求出现了爆发式增长。 AI 模型规模呈指数级增长，但在云端（或智能手机、传感器等边缘设备上）训练和运行这些庞然大物所需的硬件却远未跟上步伐。AI 软件通常需要大量算力和内存，而过去的计算机芯片设计已不足以应对现代 AI 系统的需求。即便是当今最强大的芯片，也主要是为同时处理大量简单任务而设计，或是在某一类任务（如图形渲染）上极为高效。为了降低延迟、提升芯片速度，内存和处理单元需要比以往任何时候都更紧密地集成在一起。 正因如此，IBM Research 多年来一直在探索 AI 设备的未来形态。

阿拉巴马大学亨茨维尔分校正在安装一套包含 IBM AIU 芯片的新系统，用于运行由 IBM 和 NASA 开发的 AI 模型。 随着 AI 以极快的速度发展，将新硬件与开发者正在创建的模型同步设计至关重要，以确保硬件能够充分发挥模型的潜力。如今，大多数 AI 模型在 GPU（图形处理器） 上训练和运行，GPU 在处理这些模型的性能需求方面表现出色——但它们需要消耗大量能源。专为 AI 工作负载设计的新硬件有望在能效和性能两方面带来提升。 IBM Research 五年前开设 IBM Research AI Hardware Center 时便着手应对这一挑战，并于 2022 年推出了人工智能单元（AIU）芯片，这是首个专为解决 AI 模型高能耗需求而构建的完整片上系统。

IBM 已开源两款原型工具，用于检测 RAG（检索增强生成） 应用中的幻觉以及估计模型不确定性。如果反馈积极，这些能力可能会被加入下一个 Granite 版本。 大语言模型的前景被一个显著问题所抵消：它们可能难以预测。并不总是容易判断 LLM（大语言模型） 刚刚生成的信息是准确的，还是基于可信文档的。 IBM Research 设计了一对开源低秩适配器（low-rank adapters，简称 LoRA），让开发者对 AI 内容生成拥有更多控制权。这些实验性适配器可以替换进 IBM 的 Granite 3.0 Instruct 8B 模型，也可以从中移除，以提供额外的质量检查。这些 LoRA 已在 Hugging Face 上提供，如果它们被证明有用，用于训练它们的数据将被纳入 Granite 3.1。

基础模型技术有望重塑世界上最复杂的工程系统——电网。 在新千年伊始，美国国家工程院将电网评为20世纪最伟大的工程成就。四分之一世纪后，这一现代文明的支柱正显露出老化的迹象。 电气化仍然支撑着我们的食品、医疗、通信和交通系统，更不用说驱动现代生活的商业、计算和娱乐。但众所周知，美国及世界其他国家的电网正承受着巨大压力。极端天气事件已导致局部电网瘫痪，老化的硬件引发了近年来最具破坏性的野火，电网攻击已成为重大的国家安全关切。随着我们迈入低碳能源时代，新的发电来源和配电调度将以电网最初并未设计承受的方式对其施加压力。这正是IBM研究人员介入的领域。 在本月发表于《Joule》封面的一篇新论文中，IBM及其合作伙伴构想了基础模型在人类迈向新能源时代过程中改造电网的作用。

光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。 光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。 IBM Research 的科学家们宣布了芯片组装和封装方面的一系列新进展，称为共封装光学（co-packaged optics），有望通过将光链路连接引入设备内部以及用于训练和部署大语言模型的数据中心墙壁内，来提高能效并提升带宽。这一新工艺有望将芯片边缘可连接的光纤数量（即所谓的“海滨密度”）提高六倍。

一种名为选择性层减薄的新芯片构建工艺，正在帮助克服在本十年内大规模生产2纳米及以下晶体管所面临的一些关键挑战。 我们的世界由微芯片驱动。得益于将晶体管节点缩小至纳米级的技术创新，我们拥有的几乎每一台设备现在都内置了芯片。随着对更小、更高性能且能耗更低的芯片的需求不断增长，尤其是面向AI应用的需求，芯片架构也在发生变化。IBM正在研究新的创新方法来构建这些器件，克服日益复杂的晶体管及其不断缩小的尺寸所带来的技术挑战。 基于这一目标，来自IBM和日本芯片制造商Rapidus的科学家宣布，他们在稳定构建2纳米工艺芯片方面达到了一个关键里程碑。通过使用两种不同的选择性纳米片层减薄策略，他们现在能够构建具有多阈值电压（即multi-Vt）的纳米片环栅晶体管，这使得芯片能够执行复杂计算而无需消耗过多能量。

即使在27年之后，IBM在CMOS半导体生产BEOL（后段制程）中引入Cu（铜）大马士革技术的创新，仍然是高性能和低功耗逻辑集成电路芯片制造的行业标准。IBM Research在该领域持续创新，并在2024年IEDM会议上发表了两篇重要的BEOL相关论文。 第一篇论文是由IBM Fellow Daniel Edelstein撰写的特邀论文。该论文聚焦于Cu及后Cu双大马士革BEOL互连技术的进展与未来方向。 第二篇论文由IBM与三星联合撰写。由IBM的Koichi Motoyama执笔，讨论了后Cu替代互连技术的开发，该技术提供了改进的电阻-电容（RC）性能和可靠性。 在过去50年中，芯片特征尺寸的不断缩小一直是推动半导体技术进步的驱动力。

IBM 研究人员正在测试一款由 IBM 设计的全新应用程序及开源平台，以探究更定制化的 AI 智能体和应用程序能否帮助企业用户从生成式 AI 中获取更多价值。 大语言模型擅长处理文字甚至代码，但它们的能力并不总能匹配那些占据工作日的单调、专业化任务。 IBM 的新实验性应用程序 BeeAI 构建于其开源的 Bee Agent（智能体） 平台之上，旨在探索专业人士如何从中找回部分时间。这是一个更大研究项目的一部分，目标是确定生成式 AI 如何帮助加速和自动化重复性任务，无论你的技术专长如何。 该原型应用程序具有直观的聊天界面，让你可以逐步跟随它执行任务。BeeAI 设计为三种不同的使用方式： 你可以使用其内置智能体“Bee”来完成典型的聊天机器人任务，如搜索网页和生成内容。

面向化学的开源基础模型旨在加速寻找新型、更可持续的材料，这些材料可应用于芯片制造、清洁能源和消费包装等领域。 美国环境保护署追踪了近800种有毒物质的排放情况，如果能找到更环保、高性能的替代品，企业会乐于淘汰这些物质。如今，AI有潜力为科学家提供强大的新工具来实现这一目标，通过发现对人类和环境更安全的新材料。 在庞大的分子数据库上预训练的基础模型可以一次筛选数百万个分子，寻找具有理想特性的分子，同时剔除具有危险副作用的分子。这些模型还可以用于生成自然界中完全不存在的新分子，绕过传统漫长、基于试错的发现过程。 近几个月来，IBM Research在GitHub和Hugging Face上发布了一系列新的开源基础模型。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Fabian Paul 高级软件开发工程师 David Anderson 软件实践负责人 Apache Flink® 社区本周发布了 Apache Flink 1.20。在这篇博文中，我们将重点介绍一些最有趣的新增功能和改进。您可以在官方发布公告中找到所有更新的全面概述。 近期的 Flink 版本一直强调改善 Flink 的易用性，不仅面向开发者，也面向那些运维 Flink 集群的人员，这一主题在最新版本中得以延续。同时，Flink 1.20 预计是 Flink 2.0 之前的最后一个次要版本，因此这个次要版本为社区的工作画上了句号——弃用在即将到来的主要版本中应被移除或替换的 API（应用程序编程接口），并清理大量配置选项。

近年来，随着生成式 AI 的快速发展，许多公司纷纷将 AI 融入自身业务。其中最常见的做法之一，是构建能够回答文档数据库中相关问题的 AI 系统。此类问题的大多数解决方案都基于一项关键技术：检索增强生成（RAG（检索增强生成））。 这正是当前许多人采用的廉价且便捷的 AI 入门方式：将大量文档存入数据库，让 AI 针对给定输入检索最相关的文档，然后基于检索到的文档生成对输入的回复。 这些 RAG 系统通过使用“嵌入”（embeddings）——由嵌入模型生成的文档向量表示——来判断文档相关性。这些嵌入应当表示某种相似性概念，因此与搜索相关的文档在嵌入空间中会具有较高的向量相似度。 RAG 的普及催生了向量数据库的兴起，这是一种专为存储和搜索大量嵌入而设计的新型数据库。

2024年2月6日 — 发布者：Dustin Zelle – 研究软件工程师，Arno Eigenwillig – 核心机器学习软件工程师 本文也分享在 Google Research 博客上 物体及其关系在我们周围的世界中无处不在，关系对于理解一个物体可能与其自身属性同等重要——例如：交通网络、生产网络、知识…… 本文也分享在 Google Research 博客上 物体及其关系在我们周围的世界中无处不在，关系对于理解一个物体可能与其自身属性同等重要——例如：交通网络、生产网络、知识图谱或社交网络。离散数学和计算机科学长期以来一直将此类网络形式化为图，由节点通过边以各种不规则方式任意连接而成。然而，大多数机器学习（ML）算法只允许输入对象之间存在规则且统一的关系，例如像素网格、单词序列，或者完全没有关系。

Brian Morrison II | 2023年10月20日 现代开发中一种常见的策略，尤其是在无服务器应用程序中，是将用户管理外包给第三方身份验证服务，通常称为身份提供商（IdP）。虽然这将管理用户数据的焦点和责任转移到了另一个组织，但实施这一策略会带来几个权衡： 1. 你无法直接访问自己系统内的用户数据。 1. 当用户以某种方式更改其数据时，你无法执行次要操作。 1. 任何使用用户信息的 API（应用程序编程接口） 调用都需要你调用 IdP，导致响应时间更长。 在本文中，你将学习如何使用 webhook 来解决这些问题，webhook 是一种模式，IdP 可以向你的 API 发送 HTTP 调用，以通知你他们端所做的任何更改。为此，你将结合使用 Clerk、Netlify 和 PlanetScale。

PlanetScale | 2023年10月5日 PlanetScale 是一个极其快速、可扩展且可靠的数据库平台，适用于 PostgreSQL（开源关系型数据库）和 Vitess。Vitess 支持从应用层抽象出来的 MySQL 水平分片。它旨在改进数据库管理，并提供高性能、容错的数据库，能够处理大规模工作负载。 PlanetScale 为客户提供 Vitess 的强大功能，提供完全托管且高性能的 MySQL 数据库服务，具备水平分片、类似 Git 的 schema 变更工作流、自动备份、恢复、高级查询分析以及多区域复制能力。PlanetScale 可以部署在多个云平台上，包括 Amazon Web Services (AWS) 和 Google Cloud Platform (GCP)。

PlanetScale | 2023年10月5日 PlanetScale 是一个极其快速、可扩展且可靠的数据库平台，支持 Postgres 和 Vitess。Vitess 是在 YouTube 创建的广受欢迎的开源数据库管理技术，它能够实现从应用层抽象出来的 MySQL 水平分片。它旨在改进数据库管理，并提供一个高性能、容错的数据库，能够处理大规模工作负载。 PlanetScale 为客户提供 Vitess 的强大能力，提供完全托管且高性能的 MySQL 数据库服务，具备水平分片、类似 Git 的 schema 变更工作流、自动备份、恢复、高级查询分析以及多区域复制能力。

Ayrton | 2023年10月6日 我们最近为 PlanetScale 发布了一个全新且改进的入门引导流程。我们新入门引导的目标是帮助开发者快速连接并查询他们的 PlanetScale 数据库。 连接方式因应用程序使用的语言和框架而异。每个框架都有细微的差异，因此对我们来说，无论你的应用程序使用什么语言/框架，都能为你提供一条单一路径来完成连接，这一点非常重要。 构建这个入门引导的关键是 Markdoc。本文将更详细地介绍我们如何使用 Markdoc 构建产品入门引导。 Markdoc 由 Stripe 创建，是一种基于 Markdown 的语法，用于创建自定义文档站点。 我们在 PlanetScale 能够如此快速交付的原因之一，是我们优先使用易于上手的工具，让公司中的任何人都能做出贡献。

Brian Morrison II | 2023年10月10日 当你的数据库服务器性能因日常使用而开始下降时，你有多种优化选项可供选择。 优化 MySQL 数据库的一种常见方法是通过分区。在本文中，我们将介绍 MySQL 分区的基础知识、如何对数据库应用分区，并讨论它与分片（sharding）的关系。 分区（Partitioning）的核心思想是将一个大块拆分成更小的块。在 MySQL 中，“分区”一词指的是将数据库中的单个表进行拆分。 当你在 MySQL 中对一个表进行分区时，该表会被拆分为多个逻辑单元，称为分区（partitions），它们分别存储在磁盘上。当数据写入表时，MySQL 会使用分区函数来决定将数据存储在哪个分区中。给定行中一个或多个列的值将用于这个排序过程。

Brian Morrison II | 2023年10月11日 随着应用使用量的增长，性能可能会逐渐下降。 这句话本身并不令人意外，但令人意外的是可能出现的瓶颈数量以及可供你选择的解决方案。其中一个瓶颈可能直接与数据库读写所需的时间有关。毕竟，在关系型数据库的复杂性背后，你仍然在使用具有固有 IO 延迟的存储系统。 这正是架构良好的缓存系统可以发挥作用的地方。 一个好的缓存系统可以减少数据库的负载，并提升应用的整体性能。更快的应用意味着更满意的用户，也可能带来更多的收入，这始终是好事！然而，缓存系统有其自身的搭建复杂性，以及一些可能意外出现的陷阱。 在本文中，我们将探讨后端缓存、如何实现它、缓存如何与 MySQL 配合工作，以及需要注意的潜在问题。

Savannah Longoria | 2023年12月1日 在 PlanetScale，我们与处于数据库旅程各个阶段的开发者交流。当今市场上数据库产品的多样性使得为你的需求选择合适的产品变得极其困难。这篇博文的目的不是将复杂的数据库格局简化为一个简单的观点，而是为开发者提供一个框架，供他们在开始考虑构建生产应用程序时参考。 在本文中，我们将探讨如何为你的工作负载识别数据处理方法，以便你在为现代应用程序选择数据库时优化性能、可扩展性和安全性。 OLTP（在线事务处理）和 OLAP（在线分析处理）是两种不同类型的数据处理系统，在传统架构中经常一起使用。 OLTP 用于处理大量小型事务性数据。它通常用于电子商务、银行和社交媒体等应用程序。 OLAP 数据库旨在处理需要分析大量数据的复杂查询。