如果你曾好奇 Claude 和类似的 AI 智能体如何能在几秒钟内回答复杂问题，以及它们从哪里获取信息，你并不孤单。

Gurmeet Saran 作为 Anthropic 在旧金山的工程师，每天都在寻找这个答案。Anthropic 是 Claude 背后的人工智能研究公司。这位 IEEE 高级会员正在开发一种基础设施，以理解聊天机器人行为背后的机制，并确保其底层架构产生可靠的输出。

Gurmeet Saran

Anthropic，旧金山

技术员工

印度卡利亚尼大学；印度皮拉尼比尔拉理工学院

“我的工作是确保数据准确、结构化且可信，并确保私有数据保持私密，”他说。“正如我在职业生涯早期所学到的，隐私不能是你事后附加的一层——它必须从一开始就成为架构的一部分。”他补充说，如果你不能信任逻辑，你就无法对行为做出可靠的断言，而这具有真正的安全影响。

他说，安全是 Anthropic 的优先事项。根据 Claude 的使命声明，公司希望 AI 智能体“对与其合作或代表的人以及社会真正有帮助，同时避免不安全、不道德或欺骗性的行为。”Saran 说，确保研究人员能够观察和理解 AI 模型的行为对这项使命至关重要，而这对大语言模型来说尤其具有挑战性。

“我们有不错的工具来监控数据库和 Web 服务，”他说，“但对于 LLM（大语言模型），我们仍在摸索。”

在 Yahoo、Intuit 和 Meta 解决数据质量问题

Saran 对计算系统的兴趣可以追溯到他在加尔各答的童年时期，当时他在学校计算机实验室里尽可能多地花时间。

“我记得第一次使用其中一台计算机时，”他说。“让我印象深刻的是，你可以编写指令，机器会完全按照指令执行。没有任何歧义。”

“这对我来说太神奇了。”

1999年高中毕业后，他留在印度攻读高级学位。2004年，他在卡利亚尼大学获得了电子与通信工程学士学位。2010年，他在皮拉尼的比尔拉理工学院获得了软件工程硕士学位。

在攻读研究生期间，他于2007年在雅虎开始了自己的职业生涯，担任印度班加罗尔数据团队的技术负责人。在那里，他遇到了塑造其职业轨迹的项目：从事网络分析和商业智能报告解决方案的工作。

“我们不断遇到一个令人沮丧的问题，”他回忆道。“不同的团队会用略有不同的逻辑计算同一个网站指标——比如每日活跃站点用户——最终得出相互矛盾的结果。这听起来像是个小问题，但当领导层利用这些数据做出资源分配和产品开发决策时，不知道哪个数字是正确的就成了一个问题。”

该团队构建了一个带有已定义指标的中央数据存储库，本质上充当单一事实来源。Saran创建了一个模型，定义了“每日活跃站点用户”的含义，分解了哪些事件应被计入、如何处理边缘情况（或标准代码失效时的情况）等。

有了这个新模型，公司各地的数据团队可以依靠标准方法来确定他们所负责的项目和站点的每日活跃用户数，并使用相同的逻辑获得可比较的结果。

在此基础上，Saran和他的团队构建了Yahoo! Digits，这是一个用于公司所有产品的内部网络分析工具。

2010年，Saran离开雅虎，加入位于加州山景城的Intuit，担任高级工程师。他帮助构建了分析基础设施，统一了公司各产品（包括TurboTax和QuickBooks会计软件）的数据。在他任职期间，Intuit开发了一项实时检测欺诈性税务申报的功能。这要求Saran和其他工程师构建一个系统，在遵守美国国税局严格政策的同时保护纳税人数据。

“IEEE在许多国家开展业务，那里的工程师没有便捷的途径进入全球专业社区。随着AI发展扩展到少数组织之外，这种联系变得至关重要。”

“这教会了我，隐私和治理不能是事后附加到软件上的层，”他说。“它们必须从一开始就成为架构的一部分。”

Saran于2016年加入Meta（当时名为Facebook），担任位于加州门洛帕克的首席软件工程师。该公司当时正面临其视频指标的争议：Meta公开承认了一个错误，该错误导致其夸大了所发布视频的观看次数。

“这不是编码错误，而是架构问题，”Saran说。他构建了一个与他之前在Intuit开发的系统类似的系统，即定义一个单一事实来管理网站上所有视频观看指标。

该系统 Metric360 最终成为该网站架构的一部分。他说，到 2021 年他离开 Meta 时，Metric360 已在全公司范围内用于计算视频指标。

他离开该公司，成为 Wealthfront 的首席软件工程师，这是一家位于加利福尼亚州帕洛阿尔托的金融服务公司。他帮助构建了该公司的数据基础设施。

在 Anthropic 构建可信赖的 AI 系统

Saran 于 2025 年加入 Anthropic，成为技术团队成员。

为了描述他工作的意义，他使用了一个医学类比：“想象一位医生正在监测患者的生命体征，并根据这些数字做出治疗决策。如果所使用的医疗设备中有一个或几个略微校准不准呢？即使大多数读数都没问题，这也是一个严重的问题，因为困难的决策往往发生在边缘情况下。

“AI 系统也是如此。我的工作本质上就是确保仪器给出准确的读数——确保数据如其所示。

他的工作伴随着高风险和需要解决的复杂问题。

“AI 智能体尤其难以观察，”他说。“当一个系统采取一系列行动时[与不同用户生成对话式响应]，你需要一种方法来捕捉它做了什么、它依据什么信息工作，以及结果是否与最终用户的预期相符。而且你必须在完成所有这些的同时不暴露任何人的私人信息——这些系统旨在识别敏感数据，并在其流动过程中保持其受到保护。这比我以前做过的任何事情都是一个要求高得多的可观测性问题。

他说，在 AI 仍处于采用早期阶段时解决系统可靠性问题，既是 Saran 的热情所在，也是让他夜不能寐的问题。

“我认为，让 AI 系统真正可审计和透明，是未来十年更重要的工程问题之一，”他说，“而它并没有像模型能力那样被广泛讨论。

IEEE 可以在塑造 AI 发展方面发挥作用

Saran 于 2025 年 3 月加入 IEEE。

“在 Yahoo、Intuit、Meta 和 Wealthfront 等机构构建数据基础设施超过 20 年后，”他说，“我想通过同行评审、发表文章以及与更广泛的工程研究生态系统互动，回馈技术社区。”

他说，他相信 IEEE 可以通过其标准工作，在塑造 AI 的未来方面发挥重要作用。

“我们为一切都有标准，从建筑规范到软件测试，”他说。“AI 基础设施也需要类似的东西，而 IEEE 拥有做到这一点的公信力和影响力。”

他说，IEEE 可以解决的另一个问题是准入：“IEEE 在许多国家开展业务，那里的工程师没有便捷途径进入全球专业社区。这种联系很重要，尤其是在 AI 发展扩展到少数几个城市的少数组织之外时。”

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：IEEE Spectrum

原创地址：https://spectrum.ieee.org/anthropic-engineer-ai-agent