刹车就在油门下面

Editions:
🇮🇹 Italiano – 🇬🇧 English – 🇫🇷 Français – 🇦🇷 Spanish – 🇭🇰 中文（繁體） –

多年来，人工智能竞赛遵循着一条简单得近乎迷人的规则：更快、更强，而且必须比别人更早。

每一代新模型都必须超过上一代。每家公司都希望证明自己领先竞争对手几个月、几个星期，最好哪怕只有十五分钟。于是，人工智能逐渐变成了一场科技版的一级方程式赛车：所有人都在谈论马力，却很少有人认真询问刹车在哪里。

直到有一天，车手们自己开始注意前方的弯道。

Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman，以及 xAI 创始人 Elon Musk，虽然彼此处于激烈竞争之中，如今却在一个问题上出现了某种值得注意的共识：

也许，人工智能技术前沿的发展速度确实应该适当放慢。

这件事当然带着几分讽刺意味。

它有点像三家火药制造商突然跑到城市广场上，郑重宣布：我们现在真的应该认真讨论一下火柴的危险了。

不过，玩笑背后是一个非常严肃的问题。

今天的人工智能已经不只是科学家为了探索技术极限而推进的研究。它背后有企业、有巨额投资、有市场、有合同、有声望，也有国家之间和公司之间越来越激烈的竞争。

在这样的环境中，一家公司主动减速，就可能意味着眼睁睁看着竞争对手继续向前冲。

真正的问题正在这里。

最大的危险未必是一台人工智能某天早晨突然“心情不好”，决定征服人类——那当然是好莱坞非常喜欢的故事——而可能是一种更加普通、更加人类化，也因此更加危险的情况：

没有人愿意成为第一个踩刹车的人。

假如一家公司决定多花六个月测试一个系统的安全性，而另一家公司利用同样的六个月推出更强大的模型，那么市场最终奖励的，可能首先是冒险者，而不是谨慎者。

这是一份相当精彩的危险配方。

消防员最后才赶到，因为在灭火之前，有人还要先计算一下：把火扑灭，会不会影响公司的股价。

因此，独立监督变得格外重要。

如果一种技术完全由制造它、销售它并从中获利的人自己负责监督，那么桌面上始终会留下一个令人不太舒服的问题：

谁来监督监督者？

当然，这并不意味着我们明天早晨就应该拔掉电脑插头，重新找出打字机，然后宣布数字革命到此结束。

人工智能拥有巨大的潜力。

真正理性的挑战，并不是阻止它继续发展，而是防止速度成为决定我们前往何处的唯一标准。

因为每一个人工智能模型背后，都有真实的社会。

那里有工作岗位、学校、大学、记者、医生、法官、政府机构、军队、企业，以及数以亿计最终必须承受今天这些决定所带来后果的普通人。

而今天作出许多关键决定的，却只是一个人数极少的群体。

他们同样没有水晶球。

Amodei、Altman 和 Musk 能够在“应该更加注意速度”这一点上出现某种共识，恰恰因为他们是竞争对手，所以更值得我们认真听一听。

但是，听取他们的警告，并不意味着我们也应该把哨子、规则手册以及交通警察的权力全部交给他们。

人工智能需要独立监督。

需要合理的透明度。

需要外部研究。

需要明确的法律责任。

更重要的是，我们或许需要保留一种如今听起来非常古老、却越来越珍贵的东西：

思考的时间。

最后的悖论颇有意味。

我们花了多年时间制造能够越来越快思考的机器。

现在却开始发现，人类也许应该做恰恰相反的事情：

稍微慢一点思考。

然后，再按下那一次 Enter。