ITPub博客

随着云采用的持续加速，各组织逐渐意识到，迁移上云只是开始。真正的挑战——也是机遇——在于优化云使用，以驱动最大化的业务价值。在 AWS，我们致力于帮助客户成功走完这一旅程。让我们从麻省理工科技评论近期发布的《通过优化云驱动业务价值》一文中，探索一些关于云优化的关键洞察和最佳实践。 近期数据显示，2024 年第三季度全球云基础设施支出达到 840 亿美元，同比增长 23%。这一增长凸显了云在驱动业务敏捷性和创新方面的关键作用。然而，要真正释放云的潜力，组织必须在成本、安全、韧性和创新之间取得恰当的平衡。 AWS 云优化总监兼总经理 André Dufour 强调，云优化涉及提高云支出的效率，从而将释放出的资源重新导向新的创新项目，例如生成式 AI 计划。

IBM Research 的基础模型正在为复杂系统的模拟版本提供动力，有望加速技术进步。 数字孪生长期以来一直被视为各行业的颠覆性技术。无论是在汽车和航空航天领域，还是在制造业、电网和供应链物流中，这些现实世界系统的虚拟模型都承诺通过预测建模和实时分析来变革运营。然而，迄今为止，由于在足够高精度地建模复杂物理系统方面存在局限性，这项技术尚未兑现其承诺。 IBM Research 正在努力改变这一现状。通过应用最初为语言处理开发的基础模型技术，我们的研究人员创建了一个框架，用于构建完全数据驱动、自我改进且能够准确预测复杂系统行为的 AI 驱动数字孪生。这一进展具有广泛的意义，其应用跨越多个依赖高保真仿真来优化性能、提高安全性和降低成本的行业。 这种方法最直接且最具影响力的应用之一是在电动汽车（EV）电池开发领域。

我们很高兴地宣布更新版 AWS Well-Architected 机器学习 Lens，现已增强，包含在 AWS 上构建机器学习（ML）工作负载的最新能力和最佳实践。 AWS Well-Architected Framework 提供了在云中设计和运营可靠、安全、高效、经济高效且可持续工作负载的架构最佳实践。机器学习 Lens 使用 Well-Architected Framework 来概述对您的 ML 架构进行全面审查的步骤。 更新版机器学习 Lens 为客户提供了一致的方法，用于评估跨 ML 工作负载的架构，从传统的监督学习和无监督学习到现代 AI 应用。该 Lens 涵盖了与完整 ML 生命周期相关的常见考量，包括业务目标识别、问题定义、数据处理、模型开发、部署和监控。

IBM Research 正在为一个量子计算与 AI 并存的世界加速算法开发。 算法始终是 IBM Research 的超级能力。 自现代计算诞生以来，IBM 科学家一次又一次地重新定义了人类计算的方式。每一次突破都促使数学家重新审视他们的工具集，也促使工程师重新设计他们的硬件。新的产业随之涌现。 在每个时代，IBM Research 都提出同一个问题：什么样的新数学将推动整个领域向前发展？今天，我们必须重新审视这一脉络；计算的基础再次发生转变，而这一次比以往任何时候都更快。 尽管经典高性能机器仍然承担着全球大部分的模拟和分析工作，基础模型 AI 正在将非结构化数据、时间序列数据和图像数据转化为稠密、信息丰富的表示。而量子处理器正开始以仅靠比特无法实现的方式操纵信息。 单独来看，每项技术都极为强大。

昨天，我们迎来了数千名开发者和高管参加 MongoDB.local NYC，这是我们全球 .local 系列的最新一站。在过去的一年里，我们与全球 20 个城市的数万名合作伙伴和客户建立了联系。而纽约更是意义重大，因为这里是 MongoDB 的诞生地，也是我们的总部所在地。 活动期间，我们推出了新功能，进一步巩固了 MongoDB 作为全球领先现代数据库的地位。MongoDB 8.2 是我们迄今为止功能最丰富、性能最高的版本，我们提高了开发者的能力标准。我们还分享了更多关于 Voyage AI 嵌入模型和重排序器的信息，它们为构建值得信赖、可靠的 AI 应用程序带来了最先进的准确性和效率。目前， MongoDB Community Edition 和 Enterprise Server...

总裁兼首席执行官 Dev Ittycheria 今天上午与 MongoDB 员工分享了以下信息。 这是我写给你们所有人的最艰难的一封邮件。如果你还没有看到公告，我已决定卸任 CEO 一职。自 2025 年 11 月 10 日起，Chirantan “CJ” Desai 将成为 MongoDB 的新任 CEO。 这对我来说并非一个轻松的决定。走到这一步的过程充满了情感，因为我深切关心 MongoDB 以及那些成就了这家公司的人们。 这个消息可能会让人感到意外，对一些人来说，甚至可能是震惊。这很自然。领导层交接会引发各种反应。我想分享为什么会发生这件事，以及为什么这对 MongoDB 来说是正确的选择。

理解我们的星球从未如此关键。从保险和金融到物流和农业，无数行业都需要关于地球运行方式的可靠洞察。基础 AI 正在为我们观察和测量世界的方式开启前所未有的可能性——而 IBM Research 与 NASA、欧洲空间局及其他合作伙伴一起，正处于这一变革的最前沿。 自 2023 年我们首次与 NASA 开展地理空间 AI 合作以来，我们已经构建了一个全面的生态系统，涵盖行业领先的模型、工具和基准，帮助我们理解陆地、海洋乃至更广阔的领域。这些 AI 模型已被社区下载超过 600,000 次，充分证明了它们的质量和实用性。 地球观测（EO）与其他计算机视觉（CV）问题有着根本性的不同。与读取信用卡字符或检测图像中人物等任务不同，仅靠 RGB（红、绿、蓝）数据无法满足农业、环境监测或灾害响应的复杂需求。

IBM Research 与伊利诺伊大学提出了一种面向云工程智能体的撤销并重试机制，可使其更安全、更有效地排查 IT 问题。 云计算的便利性也可能伴随风险，近期一连串故障事件已经证明了这一点。据一项估算，计划外 IT 故障的平均成本如今已达到每分钟 14,000 美元，较 2022 年上涨近 10%。 不断上升的成本给站点可靠性工程师（SRE）带来了前所未有的压力，要求他们快速解决事件。但随着新服务器上线的速度快于工程师保障系统安全的步伐，云服务提供商已将希望寄托于 AI。 当今用于 IT 运维的 AI 工具，俗称“AIOps”，主要帮助 SRE 进行分诊——发现症状并缩小疑似故障点范围。运维人员对 AI 智能体的信任还不足以让它们直接修复事件。

新的排行榜建立在 IBM Research 发起的基准测试之上，旨在加速构建和评估能够解决真实企业问题的 AI 模型和智能体的进展。 在短短几年内，我们已经看到 AI 用例激增，并且正在颠覆世界的生活方式。而在企业领域，我们开始看到这场革命逐渐扎根。 然而，与任何其他软件一样，集成到企业工作流中的 AI 系统需要在大规模下可靠运行。但对于当今的 AI 任务而言，验证所部署的模型和智能体是否完全按照工程师的预期运行并不总是那么容易。 这正是 IBM 一直在努力解决的问题。今年早些时候，IBM Research 发布了一套新的基准测试，名为 ITBench，旨在以科学严谨的方式展示 IT 自动化智能体如何让企业的工作变得更轻松。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Sean Falconer，Confluent AI 负责人 我主持两档播客节目——Software Engineering Daily 和 Software Huddle，也经常作为嘉宾出现在其他节目中。推广这些节目——无论是我主持还是作为嘉宾参与——有助于突出我所进行的精彩对话，但要为每一期节目精心撰写一篇 LinkedIn 帖子，实在很难挤出时间。在主持节目、工作和生活之间，坐下来为每一期节目精心撰写一篇 LinkedIn 帖子，并不总能做到。 为了让生活更轻松（同时又不辜负这些节目），我构建了一个由 AI 驱动的 LinkedIn 帖子生成器。它会下载播客节目，将音频转换为文本，并据此生成帖子。

我们已根据 Anthropic 的负责任扩展政策（RSP）激活了 AI 安全等级 3（ASL-3）部署与安全标准，并与 Claude Opus 4 的发布同步实施。ASL-3 安全标准涉及增强的内部安全措施，使模型权重更难被窃取，而相应的部署标准则涵盖一组针对性明确的部署措施，旨在限制 Claude 被专门用于开发或获取化学、生物、放射性及核（CBRN）武器的滥用风险。这些措施不应导致 Claude 拒绝查询，除非涉及极为狭窄的主题范围。 我们以预防性和临时性措施的方式，在 ASL-3 标准下部署 Claude Opus 4。需要明确的是，我们尚未确定 Claude Opus 4 是否已明确通过需要 ASL-3 保护的能力阈值。

更新（2024年12月3日）：我们已修订 Claude 3.5 Haiku 的定价。该模型现在的价格为输入 $0.80 MTok / 输出 $4 MTok。 今天，我们宣布推出升级版 Claude 3.5 Sonnet，以及新模型 Claude 3.5 Haiku。升级版 Claude 3.5 Sonnet 相较其前代实现了全面改进，在编码方面提升尤为显著——这已是它此前领先的领域。Claude 3.5 Haiku 在许多评估中达到了我们此前最大模型 Claude 3 Opus 的性能，速度则与上一代 Haiku 相近。 我们还推出了一项突破性的新能力公开测试版：计算机使用（computer use）。

Constantin Pan 和 Jim Hawkridge Cloudflare 的网络为客户提供了大量服务。我们以事件日志和聚合分析的形式收集相关数据并将其交付给客户。截至 2024 年 12 月，我们的数据管道每秒摄取高达 7.06 亿个由 Cloudflare 服务生成的事件，这代表自我们 2018 年数据管道博客文章以来增长了 100 倍。 在峰值时，我们每秒传输 107 GiB 的压缩数据，要么直接推送给客户，要么进行额外的排队和批处理。 所有这些数据流为 Logs、Analytics 和计费等产品提供支持，也为其他产品提供支持，例如训练用于机器人检测的机器学习模型。本博客文章重点介绍我们用于高效且准确地处理为 Analytics 产品摄取的大量数据的技术。

Nielsen Marketing Cloud 是一家领先的广告技术公司，在其某个管道中每天处理 25 TB 数据和 300 亿个事件。随着数据量的增长，高效扩展 Apache Spark 工作负载的挑战也随之增加。 Nielsen 的团队面临这样一种情况：当他们通过添加更多实例来扩展集群时，每个实例的性能反而下降。这种性能下降导致每个实例每小时完成的工作量减少，并推高了每 GB 数据处理成本。 此外，他们还偶尔遇到数据倾斜问题。数据倾斜是指数据在分区之间分布不均，会造成处理瓶颈并进一步降低集群效率。在极端情况下，这些因素叠加会导致集群故障。 在本文中，我们将跟随 Nielsen 的历程，了解他们如何构建稳健且可扩展的架构，同时实现线性扩展。

IBM Research 的科学家们正致力于通过缩小数字的位宽并协同设计硬件来匹配，从而使 AI 计算更加高效。 随着人工智能走出实验室并渗透到我们生活的各个领域，显而易见的是，我们需要找到新的方法，让这项技术以更少的算力完成更多任务。为了让大语言模型对企业具有可行性，它们不能需要数百个 GPU（图形处理器） 来运行。一种选择是低精度计算。低精度算术有时被称为近似计算，它非常适合那些计算不需要高精度就能产生足够准确结果的 AI 应用。其优势包括降低计算和能源成本，以及减少延迟。 低精度计算经过过去十年左右的发展，并在近年来逐渐成熟，正迅速成为行业标准。随着其实用性和重要性的增长，硬件需要协同设计以与这种方法配合工作。

IBM Research 发布的新数据集和基准测试评估了大语言模型（LLM（大语言模型））在使用检索增强生成（RAG（检索增强生成））进行交互式问答任务时的表现。 检索增强生成（RAG）已成为一种流行的方式，利用 AI 快速找到可靠且可验证的答案。通过 RAG 流水线，大语言模型可以调用数据库或其他外部知识源，将其响应建立在最新、最相关的信息之上，而无需重新训练语言模型本身的高昂成本。 RAG 可以帮助防止 LLM 在没有答案时即兴发挥，提供不准确或捏造的事实。作为额外的保障措施，RAG 让用户可以检查引用并验证所获信息的正确性。部分归功于 RAG，如今的 LLM 在一次性问答任务上表现出惊人的娴熟。但一旦任务变得更加复杂，需要像与真人对话那样进行大量来回交流时，LLM 的表现就会下降。

IBM Research 的一篇关于模拟内存计算的新论文登上了《Nature Computational Science》的封面。该论文是三篇系列论文之一，重点探讨非常规计算范式在云端和边缘 AI 中的未来作用。 近年来，AI 模型性能不断提升——但规模也变得越来越大。神经网络权重占用的内存量持续增长，有些模型拥有 5000 亿个参数，甚至达到数万亿。在传统计算机架构上执行推理时，每次移动这些权重进行计算都会消耗时间和能量。模拟内存计算将内存与计算融为一体，消除了这一瓶颈，在节省时间和能量的同时仍能提供卓越的性能。

IBM Research 推出了一套名为 ITBench 的新基准测试，旨在以客观、科学的方法判断 IT 自动化智能体是否真正让企业的工作变得更轻松。 近年来生成式 AI 的爆发式增长令人惊叹。我们已经有系统能为我们写诗、帮助我们解决编程问题，并就任何话题与我们聊天。但在将这些革命性系统引入企业方面，采用率相对有限。 目前，要从根本上比较这些 AI 系统在可靠解决业务问题方面的效能是很困难的，因为证明效能的测试实际上并不存在。“你需要建立对这些系统的信任，”IBM Research 的 AI 与自动化副总裁 Nick Fuller 表示。“当你没有衡量标准时，这就更难了。” 仅就 IT 自动化领域而言，其格局比几年前要复杂得多。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Sean Falconer，Confluent AI 负责人 本文最初发表于 VentureBeat。 企业知道他们不能忽视人工智能（AI）——但在构建 AI 应用时，真正的问题不是 AI 能做什么？而是它能可靠地做什么？更重要的是，我们从哪里开始？ 本文介绍 VISTA 框架，这是一种对 AI 机会进行优先级排序的结构化方法。受 RICE（Reach、Impact、Confidence 和 Effort）等项目管理模型启发，VISTA 聚焦四个维度——业务价值、实施速度、可扩展性和风险容忍度——帮助你自信地选择第一个 AI 项目。 AI 目前还不能写小说或经营企业，但它在取得成功的地方仍然很有价值。它增强人类的工作，而不是取代人类。

推理扩展（Inference scaling）是 AI 中一个活跃且令人兴奋的研究领域。本质上，它是指在推理时使用更多计算资源来显著提升大语言模型（LLM（大语言模型））性能的概念。在 IBM，我们一直在开发创新的推理扩展技术，以提升我们模型在推理任务上的性能。 利用推理扩展，我们希望分享将这些技术应用于 Granite-3.2（我们 Granite 模型系列的最新一代）所取得的一些令人兴奋的结果。在测试中，我们看到代码和数学推理任务的性能有了显著提升。 这些改进在标准基准指标上通常可达 20 分以上，使我们拥有 80 亿参数的 Granite 3.2 模型能够超越其他强大的专有模型，如 GPT-4o-0513 和 Claude-3.5-Sonnet。