我们都经历过类似的过程。 一开始，你只是让 AI 帮你润色一封邮件。 接着开始尝试更复杂的事情，

比如： 用一个你并不熟悉的编程语言写函数 生成一个完整功能模块 甚至直接把整个项目交给 AI

后来，你开始允许它访问：

文件

日历

代码库

最开始，它像一个实习生。

后来，它越来越像同事。

再后来，它甚至开始像团队里最懂的人。

一开始，这种感觉非常惊艳。

原本需要一个月完成的工作，被压缩到几天。

整个团队都开始围绕：

“如何更快构建、更快发布”

进行运转。

但总有一天，AI 会把问题重新丢回给你。

你盯着报错信息。

它也“盯着”你。

而你发现：

其实自己也不会解决。

于是你只能输入：

“换个方法试试”

“帮我修复”

“重新生成”

然后像拉游戏机一样点击发送。

希望它这次能：

真正运行成功

或至少看起来像成功

真正的问题，不是“AI 如何更聪明”

每当这种时刻发生，人们第一反应通常是：

“怎样让 AI 下次别犯错？”

但现实是： 雷电影院

AI 永远不可能完全零错误。

总会存在它无法处理的问题。

真正更重要的问题应该是：

我们如何设计系统，让用户能够及时发现 AI 的错误，并且依然保有解决问题的能力？

好的 AI 工具，不只是让人更快

这让我们重新思考：

一个优秀的 AI 工具，到底应该做什么？

很多 AI 产品只是：

提高效率

加速执行

自动完成任务

但“更快”并不一定更好。

因为速度也意味着：

决策未经仔细检查

替代方案还没认真考虑就被跳过

输出结果未经验证就直接上线

有时候：

真正正确的设计，反而应该让用户慢一点。

AI 做得越多，人类练习得越少

如果 AI 承担越来越多工作，人类自然会减少练习。

于是一个很少被认真讨论的问题出现了：

长期来看，人类能力会发生什么变化？

我们一直在研究：

如何让 AI 更强

但很少研究：

AI 是否也能让用户变得更强

事实上，每一个 AI 工具都在“训练”用户。

无论设计团队有没有意识到这一点。

它会影响用户：

注意什么

相信什么

保留哪些技能

放弃哪些能力

大多数 AI 只是完成任务

而最优秀的 AI 工具会让用户：

思考

学习

成长

这其实不是一个新问题

早在 1983 年，Bainbridge 在《自动化悖论》中就研究过类似问题。

航空、核电等高风险行业长期都在研究：

自动化如何影响人类判断力

人类如何在系统高度自动化后保持能力

这些研究，其实对今天的生成式 AI 同样适用。

一个“人类-AI协作”设计框架

基于大量相关研究，我整理出一个框架：

目标不是只让用户工作更快，

而是：

让用户长期变得更强。

整个框架包含四部分：

1. 明确任务类型（Identify the task）

在决定 AI 该做多少事情之前，首先要拆解任务本身。

大多数任务其实都包含四个阶段：

获取信息

分析信息

做出决策

执行动作

不同阶段，适合 AI 介入的程度完全不同。

关键问题

当前流程涉及哪几个阶段？

用户是否知道 AI 正处于哪个阶段？

用户能否随时介入或停止流程？

2. 决定“人类控制权”级别（Choose the human control level）

过去的软件设计重点是：

“用户如何操作软件”

而现在，人类-AI协作更像：

“用户需要保留多少控制权”

这有点像自动驾驶：

手动驾驶

辅助驾驶

全自动驾驶

AI 系统同样也有不同控制级别：

完全人工

AI 建议

AI 推荐

AI 自动执行

核心不是 AI 能做多少

而是：

用户应该保留多少参与度。

判断标准包括：

1. 错误代价

不同任务风险完全不同。

例如：

撤销文档修改

和真实转账付款

风险根本不在一个级别。

高风险任务必须保留人工确认。

2. 时间压力

医疗、航空等场景不能等用户慢慢思考。

有趣的是：

时间压力越高，系统往往越自动化。

因为人在紧急情况下突然接管系统时，

反而更容易做出错误决策。

3. 校准“信任”（Calibrate trust）

AI 与用户长期协作后，

最关键的问题之一就是：

用户到底有多相信 AI？

信任会不断变化：

AI 表现好 → 信任上升

AI 犯错 → 信任下降

而危险往往来自两个极端：

过度信任（Misuse）

用户完全不检查 AI 输出。

点击“接受”已经变成一种习惯动作。

如何避免？

1. 显示 AI 的不确定性

用户需要知道：

AI 是“很确定”

还是：

AI 只是“猜测”

2. 不要让 AI 对所有内容都一样自信

如果：

正确答案

AI 幻觉

语气完全一样，

用户就无法判断风险。

3. 在关键节点增加“阻力”

有些步骤必须让用户停下来真正检查。

这种“摩擦”并不是坏事。

4. 强制保留人类判断

如果所有流程都变成“一键接受”，

用户最终会停止思考。

另一种危险：不再信任 AI（Disuse）

如果 AI：

经常误报

建议不合理

初期体验很差

用户就会彻底放弃使用。

如何避免？

1. 保护第一次体验

用户第一次看到 AI 出错，

会严重降低后续信任。

2. 降低误报率

如果 AI 总是打扰用户，

用户最终会习惯性忽略它。

3. AI 犯错时解释原因

一句： 极乐影院

“因为输入信息存在歧义，所以我判断错误”

远比沉默更容易恢复信任。

4. 设计“共同进化”（Design for co-evolution）

真正优秀的人类-AI系统：

不是 AI 越来越强、人类越来越弱。

而是：

AI 与用户一起成长。

重点是保护人类长期能力

尤其是：

判断力

批判性思维

问题解决能力

未来最重要的技能正在变化

过去最重要的是：

“执行能力”

现在越来越重要的是：

“判断能力”

包括：

判断结果是否正确

判断哪里可能出错

判断下一步怎么处理

最后的思考

有一句关于交互设计的话我非常喜欢：

“设计师设计的不是技术，而是关系。”

在人类-AI协作时代，这句话变得更加重要。

因为真正的问题，

不是 AI 是否足够聪明。

而是：

当 AI 失误时，人类是否仍然具备独立解决问题的能力？

回到文章开头那个“游戏机时刻”：

用户不断输入：

“修复它”

“再试一次”

并把希望寄托给 AI。

这其实不是 AI 的失败。

而是：

整个关系设计的失败。

因为用户已经被训练成：

放弃思考

完全依赖输出结果

而真正值得构建的未来，

不是：

“更快的人类”

而是：

“更强的人类”。