ITPub博客

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Ahmed Saef Zamzam，Confluent 技术营销总监 去年，我们推出了 Connect with Confluent 合作伙伴计划，使我们的技术合作伙伴能够开发与 Confluent Cloud 的原生集成。这使我们的客户能够从他们喜爱的应用程序中访问 Confluent 数据流，并让他们从数据中获取最大价值。目前该计划已有 40 多个合作伙伴，其中包括两项 Amazon Web Services (AWS) 服务——Amazon Athena 和 AWS Lambda——我们正在迅速扩展 Confluent 本已庞大的数据流生态系统。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Patrick Neff 客户成功技术架构师 在大型组织中，Confluent Cloud 通常会被许多不同用户以及业务关键型应用程序同时访问，可能跨越不同的业务线。如此多的独立组件协同工作，单个故障、错误或事件影响其他服务的风险随之增加。一次事件可能由用户点击了错误的按钮、应用程序配置错误，或仅仅是一个 bug 引起——不一而足。理想情况下，你希望系统和应用程序始终平稳运行，但如果发生事件，关键是通过将解决时间降至最低来减少损害。 在大多数情况下，你会观察到灾难（例如，UI 不可用），但不会直接知道根本原因。然后你可能会（也许在夜间）呼叫工程师或支持人员来检测和排查错误。

SOC 团队面临的最大 SIEM 管理问题之一是，他们经常被误报淹没，导致分析师疲劳和可见性缺口。除此之外，安全领域最棘手的挑战之一是检测 SaaS 访问令牌何时被泄露，同时又不增加误报问题。 在 Elastic，InfoSec 团队通过使用 Tines 等工具自动化 SIEM 告警调查来解决这两个问题。这篇博客文章分享了我们如何简化工作流程、减少误报，并让分析师能够专注于真正的威胁。 在之前的一篇博客文章中，我们介绍了 Elastic InfoSec 团队如何创建检测用户和实体行为分析（UEBA）的规则包。随着我们将这些告警包扩展到包含更多数据源，我们发现，由异常但良性的活动（例如每月仅发生一次的 API（应用程序编程接口） 令牌活动，或来自已知扫描器的活动）引起的大量误报让 SOC 分析师不堪重负。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Tim Graczewski Confluent for Startups 全球负责人 今天，Confluent 激动地宣布今年数据流初创企业挑战赛的 10 位全球半决赛入围者！数据流初创企业挑战赛最初在 Current 2023 上宣布，是一项全球性竞赛，旨在表彰和奖励那些使用 Confluent Cloud 构建创新实时应用程序的早期初创企业。 来自 22 个国家的近 100 家年轻初创企业（成立不到五年且风险融资少于 1000 万美元）参加了今年的全球竞赛。今年的申请者成功地将数据流应用于各种各样的行业和用例——从在线游戏和心理健康支持，到区块链应用程序和人工智能。 多年来，初创企业在采用和塑造开源软件的未来方面发挥了至关重要的作用。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Olivia Greene 高级产品营销经理，Confluent 2024 年第二季度 Confluent Cloud 发布围绕数据流平台的四大关键支柱——流（Stream）、连接（Connect）、处理（Process）和治理（Govern）——推出了一系列增强功能，同时我们在合作伙伴生态系统方面也开展了重要工作，帮助客户解锁新的可能性。Confluent 已帮助超过 4,900 家全球企业开启数据流之旅，并近期在 Forrester Research 的 The Forrester Wave™：流数据平台，2023 年第四季度 中被评为领导者。

从一开始，Elastic detection-rules 仓库不仅包含 Elastic 的预构建检测规则，还包含用于检测规则管理的额外工具——例如 Elastic 威胁研究与检测工程（TRaDE）团队使用的一套测试、CLI 命令和自动化脚本。 Elastic 的 TRaDE 团队多年来一直遵循检测即代码（Detections as Code，DaC）实践，支持我们针对 Elastic 预构建检测规则和端点规则的内部开发与发布流程。客户过去主要使用 detection-rules CLI，它提供了 Kibana API（应用程序编程接口） 封装和 CLI 命令，以便通过 Elastic SIEM 进行规则管理，但要求用户采用 Elastic 的内部流程和严格限制。

推出 Streamhouse：面向 AI 的开放数据架构 | 了解更多 Andrew Sellers，Confluent 技术战略与赋能副总裁 本文最初于 2023 年 12 月 27 日发表在 The New Stack 上。 我从事人工智能相关工作已近 20 年，应用的技术涵盖预测建模、知识工程和符号推理。AI 的巨大潜力始终显而易见，但其广泛应用似乎总是还要再等几年。然而，以当前生成式 AI（GenAI）技术的形态来看，这一次感觉有所不同。 过去的一个重大障碍是，设计和训练模型所需的专业知识极为稀缺。如今，我们拥有了像 LLM（大语言模型） 这样的基础模型来驱动 GenAI，它们可复用且具有通用性——这使得技术的应用比以往任何时候都更加民主化。

你是否曾经训练过一个你认为很好的模型，但当应用于现实世界数据时却惨遭失败？如果是这样，你并不孤单。机器学习过程复杂，很容易在不明显的情况下导致过拟合。在我从事机器学习的20年左右时间里，我见过许多这样的例子，这促使我撰写了《如何避免机器学习陷阱：学术研究人员指南》，试图防止其他人落入这些陷阱。 但你不必只听我的一面之词。这些问题在科学和大众媒体中越来越多地被报道。例如，有观察指出，在新冠疫情期间开发的数百个模型根本不起作用，以及多伦多部署的一个水质系统经常告诉人们可以在危险的水中沐浴是安全的。其中许多案例记录在AIAAIC存储库中。甚至有人提出，这些机器学习失误正在导致科学界的可重复性危机——而且，鉴于如今许多科学家将机器学习作为关键工具，这导致对已发表科学结果的信任缺失。

在当今数字时代，数据是现代组织的命脉——美国政府也不例外。随着各机构应对日益增长且愈发复杂的数据，采用标准化方法来监控、分析和理解复杂IT系统的行为已势在必行。这正是OpenTelemetry——一个开源可观测性框架——发挥作用的地方。OpenTelemetry是云原生计算基金会（CNCF）下的一个项目，旨在为三种主要的可观测性数据类型——追踪（traces）、指标（metrics）和日志（logs）——创建统一标准。 供应商锁定和专有解决方案长期困扰着政府的技术格局，导致高昂成本和纳税人资金的浪费。通过标准化采用OpenTelemetry，各机构可以避免供应商锁定，促进供应商之间的良性竞争，从而显著节省成本。

面对量子计算对密码学的威胁以及日益增加的监管要求，密码治理正变得愈发关键。 IBM Research 开发并开源了 CBOMkit，旨在赋能开发者和开源社区，通过使用 CycloneDX 密码物料清单（CBOM）标准生成、可视化、分析和存储清单，主动管理其项目中的密码资产。这些能力将帮助开发者熟悉 CBOM，识别其代码和依赖项中的密码资产，并向用户提供其项目和应用程序的 CBOM。 由于密码学保护我们的 IT 免受数据泄露和破坏，发现易受攻击的实例并进行修复至关重要。在量子计算威胁常见密码方法的当下，这一点尤为重要，因此必须将其替换为量子安全变体。

低秩适配（LoRA）是一种更快、更经济的方法，可将大语言模型（LLM（大语言模型））及其他基础模型转变为专用模型。IBM Research 正在通过 LoRA 进行创新，使 AI 模型更易于定制和规模化部署。 在基础模型准备好应对现实世界问题之前，通常需要在专用数据上进行微调，并重新计算其数十亿甚至数万亿的参数。这种传统微调方式速度慢、成本高，最终产生的定制模型数量远超实际可部署的能力。 低秩适配（LoRA）是一种更快捷的解决方案。使用 LoRA，你只需微调基础模型权重的一小部分，创建一个插件模块，使模型在推理时具备特定领域的专业知识，例如生物学或数学推理。通俗地说，这个模块也被称为“LoRA”。就像多头螺丝刀的定制批头一样，LoRA 可以随时插入和拔出基础模型，赋予其专业化能力。

IBM 的新开源工具包 Docling 使开发者能够更轻松地将 PDF、手册和幻灯片转换为专用数据，用于定制企业 AI 模型，并使其基于可信信息。 当今的基础模型几乎是在互联网上所有可公开获取的信息碎片上训练的——文本、图像和视频。但对企业而言，许多有价值的数据却被封存在 PDF、年度报告、幻灯片和其他复杂业务文档中。 Docling 是 IBM 的新开源工具包，旨在更轻松地为生成式 AI 应用挖掘这些信息。该工具包简化了将非结构化文档转换为 JSON 和 Markdown 文件的流程，使大语言模型（LLM（大语言模型））和其他基础模型更易于消化。一旦数据变为机器可读，就可以用于训练和定制面向企业任务的 AI 模型和 AI 智能体，并通过检索增强生成（RAG（检索增强生成））使其基于最新、最准确的事实。

IBM Research 的 AIU 系列原型芯片设计指向了一个未来：AI 计算更高效、更省电、能力更强。 世界的计算方式正在发生转变。我们长期以来在生活和工作的许多方面依赖计算机，但在过去十年中，全球对 AI 应用的需求出现了爆发式增长。 AI 模型规模呈指数级增长，但在云端（或智能手机、传感器等边缘设备上）训练和运行这些庞然大物所需的硬件却远未跟上步伐。AI 软件通常需要大量算力和内存，而过去的计算机芯片设计已不足以应对现代 AI 系统的需求。即便是当今最强大的芯片，也主要是为同时处理大量简单任务而设计，或是在某一类任务（如图形渲染）上极为高效。为了降低延迟、提升芯片速度，内存和处理单元需要比以往任何时候都更紧密地集成在一起。 正因如此，IBM Research 多年来一直在探索 AI 设备的未来形态。

阿拉巴马大学亨茨维尔分校正在安装一套包含 IBM AIU 芯片的新系统，用于运行由 IBM 和 NASA 开发的 AI 模型。 随着 AI 以极快的速度发展，将新硬件与开发者正在创建的模型同步设计至关重要，以确保硬件能够充分发挥模型的潜力。如今，大多数 AI 模型在 GPU（图形处理器） 上训练和运行，GPU 在处理这些模型的性能需求方面表现出色——但它们需要消耗大量能源。专为 AI 工作负载设计的新硬件有望在能效和性能两方面带来提升。 IBM Research 五年前开设 IBM Research AI Hardware Center 时便着手应对这一挑战，并于 2022 年推出了人工智能单元（AIU）芯片，这是首个专为解决 AI 模型高能耗需求而构建的完整片上系统。

IBM 已开源两款原型工具，用于检测 RAG（检索增强生成） 应用中的幻觉以及估计模型不确定性。如果反馈积极，这些能力可能会被加入下一个 Granite 版本。 大语言模型的前景被一个显著问题所抵消：它们可能难以预测。并不总是容易判断 LLM（大语言模型） 刚刚生成的信息是准确的，还是基于可信文档的。 IBM Research 设计了一对开源低秩适配器（low-rank adapters，简称 LoRA），让开发者对 AI 内容生成拥有更多控制权。这些实验性适配器可以替换进 IBM 的 Granite 3.0 Instruct 8B 模型，也可以从中移除，以提供额外的质量检查。这些 LoRA 已在 Hugging Face 上提供，如果它们被证明有用，用于训练它们的数据将被纳入 Granite 3.1。

基础模型技术有望重塑世界上最复杂的工程系统——电网。 在新千年伊始，美国国家工程院将电网评为20世纪最伟大的工程成就。四分之一世纪后，这一现代文明的支柱正显露出老化的迹象。 电气化仍然支撑着我们的食品、医疗、通信和交通系统，更不用说驱动现代生活的商业、计算和娱乐。但众所周知，美国及世界其他国家的电网正承受着巨大压力。极端天气事件已导致局部电网瘫痪，老化的硬件引发了近年来最具破坏性的野火，电网攻击已成为重大的国家安全关切。随着我们迈入低碳能源时代，新的发电来源和配电调度将以电网最初并未设计承受的方式对其施加压力。这正是IBM研究人员介入的领域。 在本月发表于《Joule》封面的一篇新论文中，IBM及其合作伙伴构想了基础模型在人类迈向新能源时代过程中改造电网的作用。

光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。 光纤能够以高速在长距离上传输语音和数据，IBM Research 的科学家们正在将这种速度和容量带到此前未曾涉足的领域：数据中心内部和电路板上，在那里它们将帮助加速生成式 AI 计算。 IBM Research 的科学家们宣布了芯片组装和封装方面的一系列新进展，称为共封装光学（co-packaged optics），有望通过将光链路连接引入设备内部以及用于训练和部署大语言模型的数据中心墙壁内，来提高能效并提升带宽。这一新工艺有望将芯片边缘可连接的光纤数量（即所谓的“海滨密度”）提高六倍。

一种名为选择性层减薄的新芯片构建工艺，正在帮助克服在本十年内大规模生产2纳米及以下晶体管所面临的一些关键挑战。 我们的世界由微芯片驱动。得益于将晶体管节点缩小至纳米级的技术创新，我们拥有的几乎每一台设备现在都内置了芯片。随着对更小、更高性能且能耗更低的芯片的需求不断增长，尤其是面向AI应用的需求，芯片架构也在发生变化。IBM正在研究新的创新方法来构建这些器件，克服日益复杂的晶体管及其不断缩小的尺寸所带来的技术挑战。 基于这一目标，来自IBM和日本芯片制造商Rapidus的科学家宣布，他们在稳定构建2纳米工艺芯片方面达到了一个关键里程碑。通过使用两种不同的选择性纳米片层减薄策略，他们现在能够构建具有多阈值电压（即multi-Vt）的纳米片环栅晶体管，这使得芯片能够执行复杂计算而无需消耗过多能量。

即使在27年之后，IBM在CMOS半导体生产BEOL（后段制程）中引入Cu（铜）大马士革技术的创新，仍然是高性能和低功耗逻辑集成电路芯片制造的行业标准。IBM Research在该领域持续创新，并在2024年IEDM会议上发表了两篇重要的BEOL相关论文。 第一篇论文是由IBM Fellow Daniel Edelstein撰写的特邀论文。该论文聚焦于Cu及后Cu双大马士革BEOL互连技术的进展与未来方向。 第二篇论文由IBM与三星联合撰写。由IBM的Koichi Motoyama执笔，讨论了后Cu替代互连技术的开发，该技术提供了改进的电阻-电容（RC）性能和可靠性。 在过去50年中，芯片特征尺寸的不断缩小一直是推动半导体技术进步的驱动力。

IBM 研究人员正在测试一款由 IBM 设计的全新应用程序及开源平台，以探究更定制化的 AI 智能体和应用程序能否帮助企业用户从生成式 AI 中获取更多价值。 大语言模型擅长处理文字甚至代码，但它们的能力并不总能匹配那些占据工作日的单调、专业化任务。 IBM 的新实验性应用程序 BeeAI 构建于其开源的 Bee Agent（智能体） 平台之上，旨在探索专业人士如何从中找回部分时间。这是一个更大研究项目的一部分，目标是确定生成式 AI 如何帮助加速和自动化重复性任务，无论你的技术专长如何。 该原型应用程序具有直观的聊天界面，让你可以逐步跟随它执行任务。BeeAI 设计为三种不同的使用方式： 你可以使用其内置智能体“Bee”来完成典型的聊天机器人任务，如搜索网页和生成内容。