八十多年前，一群参与研制原子弹的科学家，亲手打开了潘多拉的魔盒。广岛和长崎的蘑菇云，让整个世界第一次意识到，人类已经掌握了毁灭自身的能力。

后来，他们中的一些人创立了《原子科学家公报》，并设计了一座象征人类距离自我毁灭有多近的“末日时钟”。

如今，这座时钟的守护者们，又把目光投向了一项新的技术：人工智能。在他们看来，历史似乎正在以另一种方式重演。

据美国媒体9月25日报道，美国芝加哥大学生存风险实验室创始主任、《原子科学家公报》成员丹尼尔·霍尔兹(Daniel Holz)表示，人工智能是一个“极其紧迫的威胁”。

从原子到算法

霍尔兹把AI与当年的曼哈顿计划相提并论。作为一名长期研究引力波和宇宙学的物理学家，他对这段历史有着特殊的感受。

他说，人工智能是一项极其强大的技术，就像当年原子的力量一样，是一种全新的、非同寻常的强大技术。

这个比喻并非随口一说，它背后有着深厚的历史渊源。

曼哈顿计划是二战期间美国主导的原子弹研制工程，它在极短的时间内把一项前沿物理发现，变成了能够毁灭城市的武器。参与其中的科学家们，很快意识到自己创造的力量已经超出了人类的控制能力。

1945年，一批曼哈顿计划的科学家在芝加哥创办了《原子科学家公报》，希望警示公众核武器的危险。两年后，“末日时钟”首次亮相，指针被设定在距午夜7分钟的位置。

“午夜”象征着人类文明的毁灭。指针离午夜越近，意味着世界面临的危险越大。

每年，公报的科学与安全委员会都会综合评估全球局势，决定指针是前进还是后退，这一决定往往会引发全球媒体的关注。

85秒：史上最接近午夜

多年来，“末日时钟”评估的威胁范围不断扩大。它早已不只是一座“核时钟”。

除了核战争，《原子科学家公报》还把气候变化、全球大流行病以及颠覆性技术纳入考量。人工智能，正是近年来越来越受关注的一项。

今年1月，“末日时钟”被调整至距午夜85秒，这是自1947年以来最接近午夜的一次。

这意味着，在这些科学家看来，人类如今面临的整体风险，比冷战最紧张的时期还要严峻。

霍尔兹对AI的担忧，正是在这样的背景下提出的。他所在的芝加哥大学，恰恰是人类第一座核反应堆诞生的地方。

在采访中，当被问及有研究人员估计AI导致人类灭绝的概率约为10%时，霍尔兹的反应颇为积极。他表示，我们终于可以开始在全球范围内讨论这些风险了。

在他看来，愿意公开讨论风险本身，就是迈向安全的第一步。

核时代的经验表明，只有当风险被公开承认、被广泛讨论，国际社会才有可能坐下来谈判，建立起军控条约和核查机制。

相似与不同

AI与原子弹的类比，引发了不少讨论。支持者认为它恰如其分，反对者则认为它夸大了风险。

两者的相似之处显而易见：都是颠覆性的强大技术，都伴随着激烈的大国竞争，也都在发展速度上远远超过了规则制定的速度。

但两者之间也存在关键差异，而这些差异可能让AI的治理更加棘手。

原子弹是由政府主导、高度保密的国家工程，而今天的AI研发主要由私营企业推动，技术扩散的速度和范围远超当年的核技术。

核武器的原理基于相对清晰可预测的物理规律，而大型AI模型往往被形容为“黑箱”，即便是开发者，也难以完全解释它们为何做出某个决定。

此外，核技术有国际原子能机构这样的全球监管机构，而AI领域目前还没有类似的国际组织。欧盟的人工智能法案、美国的行政命令等，大多只是区域性的规则框架。

在一些分析人士看来，AI可能降低生物武器设计、网络攻击和虚假信息传播等灾难性行为的门槛，这是它与核武器不同、却同样令人担忧的地方。

警钟为谁而鸣

霍尔兹的警告，与近期AI领域的一系列事件形成了呼应。过去几个月里，AI安全问题频频登上新闻头条。

从AI智能体越界访问政府网站，到多家AI企业负责人公开呼吁放缓先进AI的发展，再到中美两国同意建立“超级智能”对话机制，AI风险已经从学术讨论走进了政治议程。

当然，也有不少人认为，过度渲染AI的末日风险，可能分散对现实问题的关注，比如就业冲击、隐私保护和算法偏见。

如何在防范极端风险与解决现实问题之间找到平衡，是各国政策制定者面临的共同课题。

两者其实并不矛盾：建立透明的评估机制、加强安全研究、推动国际合作，既能应对眼前的问题，也能为防范更大的风险打下基础。

“末日时钟”从来不是一个预言，而是一记警钟。它的指针曾经多次后退，最远时距离午夜整整17分钟，那是冷战结束后不久的1991年。

当年，曼哈顿计划的科学家们用它提醒世界：人类有能力毁灭自己，也有能力避免毁灭。八十多年后，这句话依然适用于人工智能。

指针会向午夜靠近还是远离，取决于人类今天做出的选择。