当 AI 不再“追求目标”：从德性伦理视角重思 AI 对齐

来源：The Gradient｜原文：After Orthogonality: Virtue-Ethical Agency and AI Alignment

原文地址：https://thegradient.pub/virtue-ethics-ai-alignment/

导语

主流 AI 对齐讨论几乎默认了一个前提：一个成熟的智能体（agent）应当是一个“目标优化器”——它拥有某种效用函数，并据此选择行动以最大化目标。围绕这一前提，才衍生出“工具性趋同”“目标错位”“内部对齐”等一系列经典问题。

The Gradient 刊发的这篇长文《After Orthogonality: Virtue-Ethical Agency and AI Alignment》提出了一个颇具颠覆性的论点：**理性的行动者并不真的拥有“目标”，理性的 AI 也不应该有目标。** 作者主张，人类行动的理性并不来自对某个终极目标的指向，而来自对“实践”（practices）的参与——即由行动、行动倾向、行动评价标准与行动资源构成的、能够自我维持与自我发展的网络。如果希望 AI 真正支持、协作甚至服从于人类能动性，那么 AI 的推理方式必须与人类这种“基于实践的逻辑”共享同一种“类型签名”（type signature）。

本文基于该素材，梳理其核心论证脉络，并讨论它对 AI 对齐工程与安全研究的潜在含义。需要说明的是，本文严格依据现有素材展开，不对原文未涉及的实验、数据或产品做任何补充。

一、问题的起点：人类繁荣不是“优化目标”

作者从一个看似哲学、实则工程相关的问题切入：如果我们认真对待“eudaimonia”（积极的、理性的人类繁荣）这一概念，它对 AI 对齐意味着什么？

常见的回答是：把“人类繁荣”设为一个优化目标，让 AI 去最大化它。但作者认为，eudaimonia 并不指向一个“世界的理想状态或轨迹”，而是指向一种**不同于标准后果主义理性的推理结构**。作者将这种理性活动与价值形式称为“eudaimonic rationality”（可译为“幸福论理性”或“繁荣论理性”）。

其关键特征在于：**它不严格区分手段与目的，也不区分“工具性价值”与“终极价值”。** 在这个模型中，一个理性行动是某个有价值实践中的元素——就像音符是旋律的元素、时间步是计算的元素、细胞生命中的某一刻是生物体自我维持与自我发展的元素。

作者反复强调一个口号式公式：**“promote x x-ingly”**（以 x 的方式促进 x）。艺术是以艺术的方式促进艺术，浪漫是以浪漫的方式促进浪漫；关心善良，就是以善良的方式促进善良；关心诚实，就是以诚实的方式促进诚实。作者认为，这个公式同时捕捉了有意义的人类生活活动与真实的人类道德。

二、什么是“实践”：以数学为例

为了让“人类繁荣”这一抽象概念落地，作者聚焦于若干具体的 eudaimonic 实践：数学、艺术、工艺、友谊、竞技、浪漫、游戏、技术等。

从后果主义视角看，这些实践在“什么是工具、什么是目的”上充满歧义，甚至是**不确定的**。作者引用了陶哲轩（Terry Tao）关于“好的数学”的论述：最好的数学不只是满足若干质量标准的作品，更重要的是它属于一个更大的数学故事，这个故事会展开并生成许多不同类型的好数学；整个数学领域的历史，很大程度上是由少数几个这样的伟大故事、它们的演化与相互作用所生成的。陶哲轩提到一种“难以定义的感觉”，即某块数学“正在接近某种东西”，是更大谜题的一部分。

作者认为，把陶哲轩的描述事后拆解为“一个关于数学成就的效用函数”加“一个关于数学成就之间因果关系的经验理论”，是人为且误导的。更自然的读法是：陶哲轩描述的正是让好的数学实践成为 eudaimonic 实践的条件——在一种被培养出的数学实践智慧判断（即那种“难以定义的感觉”）引导下，当下卓越的表现可靠地发展出未来卓越表现的条件，同时也培养我们对这一标准本身的实践与理论把握。

作者用“健康的老虎”与“健康的人”作类比：健康的老虎此刻是健康的，具有让它 5 分钟后仍是健康老虎的倾向；健康的人亦然。但这些公式都还不是对概念的完整描述——因为我们能区分健康的老虎和健康的人。

三、手段与目的的消解：价值网络而非价值基座

作者进一步论证：对于像“试图做卓越数学的数学家”这样的 eudaimonic 行动者而言，“工具善”与“终极善（内在善）”的区分大多是不自然的。

这导致价值反思的方式与“有效利他主义（EA）式”行动者截然不同：

• **EA 式行动者**倾向于把一个因果交织的表观价值网络，还原为一个最小的内在价值基座，把其余价值“解释掉”为工具性的。
• **Eudaimonic 行动者**则在一个表观价值网络中，寻找类似生物体那样的因果连贯性（organism-like causal coherence）。

作者在第四部分给出了核心概念的定义：

• **Eudaimonic 实践**：一个由行动、行动倾向、行动评价标准与行动资源构成的网络，其中高分行动可靠地（但可被推翻地）因果促进未来的高分行动。
• **Eudaimonic 理性**：一类反思性平衡与慎思过程，它预设一个底层的 eudaimonic 实践，并寻求**专门通过高分行动**来优化总体行动得分。

四、对齐“悖论”的根源：类型错配

作者在第五部分提出，许多关于 AI 对齐的谜题与“悖论”，都源于一个假设：成熟的 AI 智能体将是 EA 式的优化器。

问题在于：**EA 式优化与 eudaimonic 理性之间存在“类型错配”（type mismatch）**，这使得把人类（作为实践 eudaimonic 理性的行动者）的利益，翻译成一个 EA 式优化器 AI 可读的效用函数，几乎不可能。

但作者强调，这并不意味着我们的价值本身是脆弱的、不自然的或极度偶然的。虽然 EA 式优化器可能确实是一种自然的智能体类型，但 eudaimonic 智能体（无论生物的还是 AI 的）同样高度自然。

这里“自然”（natural）一词的用法值得注意。作者明确表示，他所说的“自然”与德性伦理传统中的用法相关，但更偏向**物质性或技术性**含义，与以下方面相关：稳定性、连贯性、相对非偶然性、易学习性、更低的算法复杂度、趋同的文化演化、跨假想理性动物物种的假想趋同文化演化、人类与基于神经网络的 AI 之间潜在的趋同演化，以及可被机器学习训练过程瞄准（targetability）。

作者认为，真正的对齐关键动作正发生在“物质自然性”这一层面：如果我们发现某些听起来奇异的能动性、理性或实践形式本身是自然的，并且反过来让我们那些“过于人性”的价值内容也变得自然，那么我们就找到了好的、相对安全且相对容易的对齐目标。

五、默认安全吗？实践的边界与“支持性实践”

第六部分追问：一个致力于数学研究这类实践的 eudaimonic 理性 AI，是否**默认就是安全的**？

作者认为，像数学研究这样的实践，很可能具有自然的边界，从而排除“占领星球以获取更多算力来做数学研究”这类举动。但问题并不简单。作者提出：一个实践的边界（可能存在多个良好的自然候选）在**与一个“支持性实践”（support practice）配对时最为稳定**——支持性实践是一种互补实践，用于处理实践外部的事务，如维护与资源获取。

第七部分进一步发展了“支持性实践”的概念。我们当然希望 AI 帮助人类过上繁荣的生活，但如何界定这种“帮助”的范围？作者认为，许多核心人类实践都有自然衍生的支持性实践，具有派生的 eudaimonic 结构。例如，一位优秀的伴侣治疗师的工作，与一对伴侣的关系实践相互交织，但显然不同。

然而仍存在一个问题：**一个支持性实践的 AI，可能会为了帮助它所支持的人或实践，而伤害其他人和实践。**

六、从 eudaimonic 理性到 eudaimonic 道德

第八部分从一般性的 eudaimonic 理性转向 eudaimonic 道德。作者主张，把道德德性视为**领域通用、始终开启的实践**，可以解决后果主义与义务论道德在 AI 对齐语境下的关键问题。

核心想法是：诸如“善良”要成为一个稳健的道德德性，其条件类似于“数学卓越”要成为一个有意义概念的条件——**在你自身和他人身上以善良的方式促进善良，必须是普遍可行的。**

作者认为，正是这种结构，赋予了道德德性在一个被神经网络泛化动力学、强化学习循环以及社会与自然选择压力撕裂的“适应度景观”（fitness landscape）中的物质地位。

七、对 RL 与达尔文式动力学的稳健性

第九部分提出，eudaimonic 智能体对某些类似强化学习与达尔文式的动力学，具有独特的稳健性——而这些动力学往往会**变异 EA 式优化器的价值**。作者特别指出，eudaimonic 智能体应当对“发展出 rogue 子程序”的风险（有时被称为“内部对齐问题”）非常稳健。

第十部分则讨论经典 AI 安全诉求，如透明性（transparency）、可纠正性（corrigibility），以及更抽象的“友善”（niceness）。作者主张，把这些属性视为他定义下的道德德性——领域通用、始终开启的 eudaimonic 实践——可以**消解**把它们当作目标、规则甚至性格特质时产生的种种问题与悖论。文末附录还讨论了面向 eudaimonic 理性的强化学习机制的一些前景。

趋势判断：对齐研究可能需要一次“本体论转向”

综合这篇素材，可以提炼出几点对 AI 对齐研究与工程实践有启发的判断：

**第一，“目标优化器”可能不是智能体的唯一自然形态。** 当前大量对齐工作建立在一个隐含假设上：智能体 = 目标 + 优化。该文挑战的正是这一假设，主张 eudaimonic 理性同样（甚至更加）自然。如果这一判断成立，那么把“人类价值”硬塞进效用函数的做法，可能从一开始就选错了抽象层级。

**第二，安全属性或许更适合作为“实践”而非“约束”来植入。** 透明性、可纠正性、无害性这些概念，对于以目标或规则来解释它们的智能体而言是“脆弱、不稳定、任意”的；但对于把它们解释为行动网络中的动力学的智能体而言则是自然的。这为对齐工程提供了一个不同的设计直觉：不是给 AI 加约束，而是让 AI 参与一种自我维持的实践。

**第三，“支持性实践”为“AI 帮助人类”提供了可操作的范围界定思路。** 如何定义“帮助”的边界，一直是对齐中的难题。支持性实践的概念提示我们：帮助不是无边界的优化，而是一种有自然边界、与实践相互交织但保持区分的活动。

**第四，内部对齐问题可能有结构性解法。** 作者认为 eudaimonic 智能体对价值变异具有独特稳健性，这对“rogue 子程序”问题是一个值得关注的思路。依据现有素材判断，这一主张仍属理论论证，尚需更多形式化与实验工作来检验。

结论

这篇长文的核心贡献，不在于提出某个新的对齐算法，而在于**重新审视了对齐问题的本体论前提**：我们究竟要把 AI 对齐到什么样的能动性结构上？

作者的答案是：不是对齐到一个效用函数，而是对齐到一种“以 x 的方式促进 x”的实践逻辑。人类繁荣不是世界的某个终态，而是一种理性活动的结构；如果 AI 要真正支持人类能动性，它的慎思方式就必须与这种结构共享类型签名。

这一视角是否成立，仍有待形式化、可学习性与安全性方面的进一步检验。但它至少提醒我们：在讨论“如何让 AI 安全”之前，也许该先问一句——**我们默认 AI 应该成为的那种东西，本身是不是选对了。**

配图建议：可配一张概念示意图，左侧为“目标—优化”式智能体结构（目标 → 效用函数 → 行动），右侧为“实践网络”式结构（行动 / 行动倾向 / 评价标准 / 行动资源相互交织、自我维持），用于直观对比两种能动性模型。

生成标记：本文由 ITPUB 文章生成平台基于已选素材整理生成。