本文与Seva Gunitsky合著，最初发表于《外交事务》。
2022年3月，莫斯科全面入侵乌克兰两周后，俄罗斯第一频道编辑玛丽娜·奥夫相尼科娃闯入晚间新闻直播现场。她在主播身后举起手绘标语，上面写着：“停止战争。不要相信宣传。他们在对你们撒谎！”她高喊“反对战争！”直到被强行拖走。
自那以后，再无人能在俄罗斯电视上抗议战争，部分原因是安保更加严密以及普遍的恐惧氛围。但2024年10月，俄罗斯主要宣传者之一玛格丽塔·西蒙尼扬给出了另一种解释。她向一位采访者解释说，RT网络中越来越多的主播并非真人。“那张脸并不存在。我们生成了声音和其他一切。”她的意思是，这些主播由人工智能生成。在接受《Vedomosti》报的后续采访中，她阐明了其中的逻辑：“这些主播不需要工资或保险，”她说，“他们不会被逮捕，警察也不会搜查他们的家。这一切既美妙又令人恐惧。”
这就是AI对每一位专制统治者的承诺：无需将任务委托给不可靠的人类，即可维持控制。这是一个极具吸引力的前景。无论多么强大，独裁者始终需要下属——审查员、宣传者、安保人员、警察、情报分析师和地方官僚——来执行命令。但下属始终构成潜在威胁。他们可能偷懒、贪污、撒谎、泄密或密谋反对上司。因此，独裁者面临的最古老困境之一便是：如何赋予智能体执行命令的权力，同时又不让他们有能力反叛领导人。独裁者通常通过让平庸之辈担任关键职位来管理这一权衡，正如政治理论家汉娜·阿伦特所言，这些人的无能“是他们忠诚的最佳保障”。但这不可避免地使专制政权更难治理和度过危机。
AI似乎为独裁者提供了两种解决这一长期困境的途径。第一，它意味着他们现在可以轻松地实时监控和惩戒追随者。地方官员消费习惯或会议日程的变化可以被AI系统自动标记，无需任何自利的告密者。第二，AI可以完全消除下属。通过自动化曾经需要人类判断力的任务，统治者可以用忠诚的算法取代不可靠的中间人，这些算法无法被贿赂或操纵。专制政权中的官员也如此表示。俄罗斯数字发展部长马克苏特·沙达耶夫在2025年4月莫斯科数据论坛上表示，AI“绝对可以取代一半的官员”，并补充说，“也许还稍多一点。”
然而，这些关于自我运转国家的承诺是虚幻的，因为AI从来不是真正自主的。系统必须由一群工程师和数据科学家构建和维护，而政治领导人无法评估他们的专业知识。转向AI以减少对不可靠人类依赖的统治者，最终可能比以前更盲目地依赖少数维持系统运行的AI专家。而这支新的数字禁卫军可能拥有与旧禁卫军相同的弱点，从而对统治者构成威胁。
眼与耳
在开发能够监控或取代下属的AI系统方面，中国处于领先地位。北京、上海和其他城市中心的智慧城市项目利用AI追踪绩效并集中监督曾经在舒适隐秘中运作的地方官员，使他们接受算法绩效评估。中国还开发了“零信任AI系统”，在过去十年中部署在约30个县市。该系统交叉比对了150多个政府数据库，以发现地方官员的贪污和裙带关系。它运行得有点过于有效，标记了8700名官员，随后地方政府在其所监控的官僚压力下开始将其撤回。但北京并未放弃其新的电子政务门户，这些门户使用自动化系统签发文件和许可证，减少了滋生小腐败或偏袒的面对面互动。与此同时，中国共产党继续推进其所谓的“思想管理”研究，即如何利用AI创建微定向宣传。中国庞大的网络评论员队伍，曾经由付费真人组成，已经在被机器人取代。
俄罗斯以类似的热情追求着同样的目标。莫斯科覆盖20万摄像头的全市面部识别系统在2021年反政府示威期间被用于识别和逮捕抗议者。中央政府已开始使用自动化数据收集和聚合来绕过可能篡改数据或利用数据谋取自身利益的地区官员。2023年，俄罗斯互联网监管机构推出了Oculus，这是一个AI系统，每天扫描数十万张图像以查找违禁内容，包括政治内容——其处理量比人类审查员高出数个数量级。俄罗斯安全部门的Meliorator工具已被用于创建超过一千个虚构美国人的个人资料，主要是在X（原Twitter）上，以人类水军农场成本的一小部分传播克里姆林宫的叙事。
其他专制政权正在追随北京和莫斯科的脚步。2025年4月，阿联酋创建了一个监管情报办公室，利用AI起草和修订联邦法律，这项工作曾由立法工作人员完成。一年后，阿联酋总理谢赫·穆罕默德·本·拉希德·阿勒马克图姆宣布，自主AI智能体将在两年内接管联邦政府一半的运作，并且“部长、总监和实体的绩效将根据其采用这一转型的能力来评估。”
这些创新可能减少独裁者所需的官僚数量。但它们实际上无法创造独裁者最想要的东西：一个自我运转的国家。即使是AI生成的电视主播也需要人来构建和维护，审查系统也需要人在异议词汇变化时重新训练它们。每个AI模型背后都有一小群工程师和数据科学家进行必要的维护，而他们的工作技术性太强，统治者无法理解。
这种依赖因此成为另一种形式的权力。例如，维护独裁者监控设备的工程师可以塑造统治者所看到的内容。他们决定哪些信息足够重要值得传递，以及以何种形式呈现。他们决定哪些威胁被标记，并且可以调整算法来决定哪些内容被压制、谁被逮捕。他们可以在宫中无人察觉的情况下做到这一切。转向AI以摆脱对不可靠下属依赖的独裁者，只是将自己的脆弱性转移到了一群新的官员身上。
事实上，这支新的禁卫军可能比以往的精英阶层更加危险。部分原因在于AI技术的不透明性，但也因为这个集团规模要小得多。罗马皇帝通常有数万人在禁卫军中服役；现代独裁者则依赖常备军。但有了AI，独裁者只需要一小撮工程师来构建和维护大规模AI系统。这对统治者来说可能是有利的，因为他们需要监视的人更少了，但这也集中了故障点，因为一次毁灭性的破坏只需要少数几名工程师就能实现，也使内部成员更容易密谋反对领导人。新禁卫军的成员可能也是不可或缺的。独裁者可以替换将军而不摧毁军队。但运行复杂的机器学习系统需要如此专业的一套技能，以至于工程师很难在不造成混乱的情况下被替换，这赋予了这些人巨大的杠杆。
不可或缺者
技术工作者对专制政权的重要性已经变得显而易见。例如，当IT专家在2022年2月俄罗斯全面入侵乌克兰后开始逃离俄罗斯时，克里姆林宫的反应不是威胁，而是利诱，为技术工作者提供缓征入伍的待遇。它免除了他们所在企业的税收，并补贴了他们的房贷。当俄罗斯总统弗拉基米尔·普京七个月后下令动员30万人时，IT工作者获得了完全豁免。考虑到一个AI系统只需要几名工程师来运行，这似乎有些过度。但一个政权无法提前知道它需要哪些工程师，也无法快速培训替代人员，因此它必须留住整个人才库，从中选拔出这少数几人。
这些措施并未阻止约10万名专家——约占俄罗斯技术劳动力的十分之一——在2022年全年持续外流。但莫斯科坚持使用利诱手段，因为在枪口下征召专家极其困难，而且被征召的专家可能不太会按指示行事。即便如此，金钱和特权也无法保证这些精英会保持忠诚。独裁者应该回想一下最初禁卫军的教训：有一段时间，它为罗马皇帝提供了保护和安全。但后来禁卫军发现了自己的不可或缺性，到公元二世纪，他们开始将帝国拍卖给出价最高者。这批新的精英也能做同样的事。2023年6月，当叶夫根尼·普里戈任的瓦格纳准军事公司的车队沿高速公路向莫斯科推进时，普京依赖他的安全部门告诉他正在发生什么。未来处于普京位置的统治者将通过机器接收此类警告：由软件分类的截获通信、经过识别系统过滤的摄像头画面、汇编成仪表板的地区报告。运行这些系统的工程师可以与新兴的挑战者达成交易，然后消极怠工。他们可以延迟数据，让警报晚几个小时到达，在不方便的时刻降低信号质量，或者让识别系统停止运作。在这种情况下，统治者将在黑暗中行事。禁卫军不需要杀死尼禄皇帝来取代他。它只需要抛弃他，转而支持一个对手。
这些程序员不太可能自己夺取权力，因为他们不太可能掌握政变领导人最终需要的东西：枪。但已经有工程师利用其权力影响领导权挑战的先例。1991年，当苏联军队试图从米哈伊尔·戈尔巴乔夫手中夺取控制权时，Relcom网络的少数几名程序员保持了信息向国外的流通，并将俄罗斯总统鲍里斯·叶利钦的法令传递给国内外的受众。政变策划者无法阻止叶利钦抗命的消息传播，政变在三天内就崩溃了。
精简
AI不会让独裁者解散所有的执法者。仍然需要有人执行逮捕和管理监狱，独裁者可以通过向支持者提供国家职位来购买忠诚。但它将让威权主义者得以缩减规模，而官员的数量最终不如统治者如何监督他们重要。追踪阴谋诡计或无能的下属一直是独裁者的主要负担。AI可以减轻这一负担，让统治者更密切地监视官员，而无需投入同样多的主动注意力。
因此，在短期内，AI可能极大地有利于专制政权。尽管部署面临诸多障碍，这项技术已经为专制政权带来了更廉价的监控、更智能的审查以及更少需要恐惧和不信任的人类下属等好处。但对专制统治者来说，人工智能的诱惑可能重新制造他们试图逃避的同一个陷阱。一个政权越依赖AI，就越依赖那些维持AI运行的人。而这些人，如同历史上每一个禁卫军阶层一样，将很快发现自己的不可或缺性价值几何。
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：Schneier on Security
原文作者：Bruce Schneier；如有侵权，请联系管理员删除。
