ITPub博客

首页 > 人工智能 > 人工智能 > Anthropic 向 OSTP 提交的关于美国人工智能行动计划的建议

Anthropic 向 OSTP 提交的关于美国人工智能行动计划的建议

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:45 0 删除 编辑

针对白宫关于人工智能行动计划的《信息请求》,Anthropic 已向科学技术政策办公室(OSTP)提交了建议。我们的建议旨在让美国更好地做好准备,以获取强大 AI 系统带来的经济利益并应对其国家安全影响。

正如我们的 CEO Dario Amodei 在《Machines of Loving Grace》中所写,我们预计强大的 AI 系统将在 2026 年底或 2027 年初出现。强大的 AI 系统将具备以下特性:

  • 在大多数学科——包括生物学、计算机科学、数学和工程学——中达到或超过诺贝尔奖得主的智力能力。

  • 能够操作当今人类从事数字工作所使用的所有界面,包括处理和生成文本、音频和视频的能力,自主控制鼠标和键盘等技术仪器的能力,以及访问和浏览互联网的能力。

  • 能够在较长时间——数小时、数天甚至数周——内自主推理复杂任务,并在需要时寻求澄清和反馈,就像一位能力出众的员工那样。

  • 能够与物理世界交互;通过数字连接控制实验室设备、机器人系统和制造工具。

我们近期的研究进一步证明了强大 AI 即将到来的观点:我们最近发布的 Claude 3.7 Sonnet 和 Claude Code 展示了显著的能力提升和更高的自主性,其他前沿实验室发布的系统也是如此。

我们认为美国必须采取果断行动以保持技术领先地位。我们的提交聚焦于六个关键领域,以应对强大 AI 带来的经济和安全影响,同时为所有美国人最大化收益:

  • 国家安全测试:政府机构应发展强大的能力,评估国内和国外 AI 模型可能带来的国家安全影响。这包括创建标准评估框架、建设安全测试基础设施,以及建立专家团队来分析已部署系统中的漏洞。

  • 加强出口管制:我们主张收紧半导体出口限制,以确保美国及其盟友能够利用强大 AI 系统的机遇,并防止我们的对手获取支撑强大 AI 的 AI 基础设施。这包括管制 H20 芯片、要求大规模芯片部署所在国达成政府对政府协议,以及降低无需许可证的门槛。

  • 加强实验室安全:随着 AI 系统成为关键战略资产,我们建议在 AI 实验室和情报机构之间建立机密通信渠道,为行业专业人士加快安全审查,并为 AI 基础设施制定下一代安全标准。

  • 扩展能源基础设施:为了保持在 AI 发展的最前沿,我们建议设定一个雄心勃勃的目标,即到 2027 年额外建设 50 吉瓦的专用电力,同时简化许可和审批流程。

  • 加速政府采用 AI:我们建议对可从 AI 增强中受益的政府工作流程进行全面盘点,并责成各机构负责人交付能够带来显著公共利益的 AI 项目。

  • 为经济影响做好准备:为确保 AI 收益在全社会广泛共享,我们建议现代化经济数据收集机制,例如人口普查局的调查,并为经济可能发生的大规模变化做好准备。

这些建议建立在 Anthropic 此前的政策工作之上,包括我们对负责任扩展政策以及测试与评估的倡导。我们的目标是取得平衡——既促进创新,又缓解能力日益强大的 AI 系统所带来的严重风险。

我们的完整提交文件见此处,其中进一步详细阐述了这些建议,并提供了切实可行的实施策略,以帮助美国政府应对这一关键的技术转型。


转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:Anthropic Blog

原创地址:https://www.anthropic.com/news/anthropic-s-recommendations-ostp-u-s-ai-action-plan

原文作者:Anthropic Blog;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1090
  • 访问量
    546826