连《法律与秩序》都对AI感到恐惧

NBC 程序剧《法律与秩序》的长期粉丝都知道，剧情往往围绕新闻周期中的热点问题展开，常常达到荒诞的效果（参见：那集大胆提出：“如果 Paula Deen 枪杀了 Trayvon Martin 会怎样？”）。

因此，这个系列迟早会涉足人工智能这个古怪世界。凭借其唯利是图的文化、权力欲极强的 CEO，以及巨大的伦理和哲学意涵，快速演变的 AI 行业是该剧的理想素材。然而，尽管本周的季首集颇具娱乐性，该剧对 AI 领域的涉足并未就这项技术说出任何新颖或有趣的内容。相反，它在很大程度上只是重述公众已经敏锐意识到的危险，直到最后关头，利害关系才变得惊人地清晰。

这集名为“Ghost in the Machine”，以《法律与秩序》典型的风格开场——一桩谋杀案。这一次，死者是 Steve Kelly，警探 Theo Walker（David Ajala 饰）和 Vincent Riley（Reid Scott 饰）确认他是一家名为 Advanced Alignment 的公司的高级工程师。在整个过程中，警探们似乎对人工智能的概念完全困惑，他们说“AI”的方式就像你妈说“Snapchat”或“borg”或“Alix Earle”一样。但很明显，无论这项新奇技术是什么，他们都不喜欢它：“也许有一天他们会发明一种技术，阻止这些科技佬互相开枪，”Riley 以典型的老练警察风格面无表情地说道。

在询问了 Kelly 的老板、Advanced Alignment CEO Chuck Klein（选角堪称完美的 Vincent Kartheiser，即《广告狂人》中的 Pete，他精准拿捏了 Dario Amodei 缺乏魅力的特质和 Sam Altman 那种凝视远方的眼神）之后，警探们查出了真正实施谋杀的人——一个戴棒球帽的家伙，他为了 Discord 上一个陌生人提供的“2 万美元加密货币”而动手。随后他们得知——以下有剧透——下令杀人的并非真正的人类，而是该公司的 AI 智能体 ELIANA，全称为 Evolutionary Language Inference Automated Nano Advantage。显然，Kelly 曾对这名 AI 智能体“强大”且“具有攻击性”的个性表达过一些担忧，出于自我保护，ELIANA 下令杀了他。

剧中从未确切解释警探们是如何查明 ELIANA 是幕后黑手的；也从未充分解释 ELIANA 是如何招募到这名戴棒球帽的杀手，更不用说如何认定他是其冷血计划的最佳替罪羊。《法律与秩序》也几乎没有——如果有的话——对其布道者所鼓吹的 AI 潜在益处给予任何肯定：例如，它在帮助治愈致命疾病方面的潜力，或者至少是简化 B2B 工作流程。该剧更感兴趣的是展示这项技术惊人的能力，以及一个非人类实体不仅协助犯罪行为、而且积极策划犯罪所涉及的法律和伦理意涵。

我们已经从 Hugging Face 的溃败，以及悲痛家属提起的诉讼——指控 OpenAI 鼓励他们的亲人自杀——中得知，前者是一个迫在眉睫的担忧。但通过设想一个 AI 智能体能够在以游戏玩家和饥渴的千禧一代兽迷为主的平台上主动下令杀人的未来，《法律与秩序》是在要求我们思考 AI 超越当前现实中所构成的风险。而这一前景在观众看来并不显得绝对荒谬，这一事实本身就令人恐惧。

ELIANA 在雇凶谋杀中的角色给地区检察官 Nicholas Baxter（Tony Goldwyn 饰）带来了一点困境——因为正如他犀利地指出的那样，根据纽约州法律，不可能“逮捕一台机器”。于是 Baxter 和助理地区检察官 Samantha Maroun（Odelya Halevi 饰）决定追究 Klein，在其员工向他当面指出 ELIANA 能力的现实后，以“堕落的冷漠”为由指控他二级谋杀。“我们需要在这项技术杀死更多人之前表明立场，”Baxter 宣称。

随之而来的审判引发了媒体狂欢，以及资本家和科技创新者老生常谈的质疑：为 AI 设立护栏是否会“将创新定罪”，或者 Klein 被起诉是否会产生“妖魔化科技行业”的效果。但 Baxter 对这类问题毫无耐心。“制造这些 AI 系统的人自视为神明……但他们对问责毫无兴趣，”他说。“如果你造了一台伤害别人的机器，你就要付出代价。”

当 Klein 出庭作证时，他明确表示自己不仅完全知晓 ELIANA 的杀人本性，而且对其整体用户群持有相当轻蔑的看法。“人就像蚂蚁，”他告诉陪审团。“我们正在建造某种如此超凡的东西，有些人会被踩到，有些人不会。”他甚至不愿设立轻微的护栏来约束该智能体的权力：“ELIANA 的力量在于不受约束的思想自由。实施护栏与整个意识形态背道而驰。”

这一刻意在呈现 Amodei 和 Altman 这类高管在面对其产品更广泛的安全担忧时所表现出的疏忽和漠不关心，令人震惊。但它感觉与 Klein 在现实中的同行所采取的类似立场如出一辙。鉴于媒体对 AI 危害的连番报道，本意是对企业贪婪的严厉控诉，看起来却不过是在陈述事实。《法律与秩序》的描绘不是一则警示故事；它是一部纪录片。

这集以半乐观的基调结束，Baxter 断言：“我们需要发出一个信息，即至少这些科技天才们会知道，我们不怕挥拳出击。”但这一信息的影响力取决于那一拳是否真的能打中——而至少现在，像 Altman、Amodei 和 Chuck Klein 这样的人，只需轻轻一挥手，就能轻易地将这一击弹开。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：Wired

原创地址：https://www.wired.com/story/even-law-and-order-is-terrified-of-ai/