“看起来到了4月，你知道的，理论上来说，天气稍微暖和一点，它就会奇迹般地消失。”

这是川普总统在2020年2月10日谈及新冠疫情时所说的话，大约一个月后，这场疫情便迫使我们的国家乃至全世界进入了漫长的封锁期。

为什么我今天会想起这件事？因为当我回顾自己报道过的最大灾难事件，包括9·11事件和新冠疫情，我惊讶地发现，它们有一个巨大的共同点：想象力的缺失。诚然，政府专家在理论上对这些事件做过准备，但在实践中，有多少人能想到自杀式恐怖分子会驾驶民航客机撞向世贸中心和五角大楼？又有多少人想象到，一种在中国武汉出现的呼吸道病毒会夺去成百上千万人的生命，并让世界经济陷入长达数年的低迷？因此今天，当谈到人工智能——它正落入恶意行为者手中，并开始展现出自身的意志——可能会带来极大的不稳定性时，我的想象力已被彻底激发。

以下是我的想象力告诉我的。它告诉我，中美两国的大型人工智能公司并没有坦诚地告诉我们，对于他们像巫师一样在实验室里开发出的这些模型的威力和影响范围，甚至连他们自己其实也知之甚少。它告诉我，川普政府——由一位经常通过社交媒体发帖来治国的人所领导——尤其不适合开展那种对保障人工智能安全所需的那种全面、持续且协调的治理。它还告诉我，鉴于其中牵涉的经济、军事和技术利益如此巨大，而华盛顿和北京之间的信任又如此匮乏，想要中美两国就化解人工智能带来的最可怕威胁进行深度合作并达成一致简直需要奇迹。

不过，现在进行彻底的反思仍然为时未晚——在一场由人工智能驱动的危机全面爆发、极其糟糕的事件迫使所有关键参与者去做那些他们从未想象过、却又不得不做的事情之前。我宁愿在人们记忆中是那个狼没来时就喊“狼来了”的男孩，也不愿成为被狼吃掉的那个人。

所以我要开始喊了：“狼来了，狼来了，狼来了，狼来了。”

只有当我看到美国和中国开始联手应对这一紧迫威胁，共同保护本国及全球的供水系统、电网、互联网等关键基础设施，我才会停止。

但要让我真正松一口气，除非看到这样一幕：华盛顿和北京与各自的人工智能公司齐聚一堂，制定出一项长期计划，规划他们如何能够继续在人工智能技术上展开竞争，同时也就建立内部人工智能护栏达成一致，以防止越来越强大的人工智能系统自行引发灾难性的网络安全、生物、核或金融风险。这是历代美中政治家都从未面临过的地缘政治、地缘经济和技术挑战。如果他们选择回避这一挑战，不仅会危及自身，也会危及我们所有人。

我真诚地希望，川普与习近平主席本周四在华盛顿举行的峰会能制定出此类战略。人工智能在能源、生物学、新材料和药物发现等领域实现变革性突破的潜力是前所未有的。但其风险同样也是前所未有的。

我们需要一种方法，既能获取人工智能带来的最大益处，又能防范其最坏的影响——而我们今天还不具备这种方法。

除非中美达成协议，确保这两个世界人工智能超级大国正在开发的人工智能代理只能以符合人类繁荣的方式运行，并一直保持这种状态，否则我就是属于“把这东西慢下来、直到我们确信可以控制它”这个阵营。我身处这个阵营的原因，与斯坦福大学政治理论家弗朗西斯·福山周一在Substack的电子杂志“Persuasion”中提出的观点相同：“人工智能是一种既可用于善，也可用于恶的工具。而目前，除了创造这项技术的人的善意之外，我们几乎没有任何机制来约束其恶意使用。”

上一次我们相信硅谷科技大佬们的善意时，他们说要“快速行动，打破陈规”——去他的监管，结果我们放任放任了那些助长社会分裂的社交网络。我丝毫不相信，在人工智能问题上，这些人会将国家利益置于自身利益之上。

任何告诉你“我们现在承担不起监管，因为这可能会阻碍创新步伐”的人，都忽略了三件事。首先，正如牛津大学马丁学院新经济思维研究所执行主任埃里克·拜因霍克告诉我的那样，那些主张监管从本质上来说会扼杀创新、破坏市场的人“完全对历史一无所知”。他说，“良好的监管能够建立信任，而信任能够推动市场发展。你认为航空业或制药业为何能够如此迅速地发展壮大？因为政府监管在消费者中建立了信任，让他们相信自己乘坐的飞机和服用的药物是安全的。”

如果人们不相信他们在药店里毫不犹豫买下的药物已经通过了监管程序，制药业还会是今天这个样子吗？因为我们尚未经历过人工智能灾难，所以人们目前对放任自流的做法表示顺从。但当灾难发生时，那些主张“无监管”的大师们——比如川普的AI顾问戴维·萨克斯——必将遭到民众的声讨，而这完全是有道理的。

任何创造出在世界上作恶的人工智能代理的公司“都应为此承担责任”，拜因霍克还说。这正是我们在对待社交网络巨头时没能采取的措施，我们也为此付出了巨大的代价。我很高兴看到财政部长贝森特周一在接受CNBC采访时表示，川普政府不会给人工智能领导者提供“免责保护伞”。这可能是近期内放慢他们脚步的最佳方式。我希望中国也能这样做。

其次，人工智能不仅是一项技术，正如计算机科学家克雷格·蒙迪一直所说，它也是“一个新物种”。而且，就像一个新物种一样，它已经表现出进化的特征。

“我们在硅基世界中释放了达尔文进化论，”拜因霍克解释道。最新的人工智能模型已经展示了“自我改进、自我复制和自我保存”的能力。“当你把这三点结合在一起，并且它们的进化是以硅基速度而不是人类速度发生时，你就得到了一个极其强大、具有潜在危险且无法控制的事物。”

随着我们开始为人工智能系统赋予机器人、无人机和车辆等实体形态，这一点变得更加真切。我们必须确保始终有人类参与其中，确保它们绝不能完全自主运行，直到我们能够保证这些系统的运行将始终符合人类福祉，拜因霍克补充说。

第三，我们的总统现在治理国家的方式据说与他当年经营川普集团时如出一辙——该集团曾多次面临破产：几乎没有任何常规的政策制定流程，部门协作薄弱，大多数时候，政府里的每个人都只是坐等总统在社交媒体上发些什么——这些内容往往是基于他刚刚交谈过的最后一个人，或者他在福克斯新闻上看到的内容，然后再试图围绕这些内容制定政策。（谢天谢地，消息人士告诉我，至少贝森特对人工智能问题进行了深入研究，并且一直在与中国人沟通。但是，在这个问题上，他能否在这届政府中让这群各自为政的家伙们齐心协力，还有待观察。）

我在《纽约时报》的同事最近报道称，与川普关系密切的消息人士明确表示，他将人工智能可能导致人类大规模灭绝的担忧斥为“骗局”，这并非出于任何技术评估。他们报道称，其动机源于他担心“如果推动美国经济的人工智能热潮放缓，市场可能会崩溃，经济衰退可能会接踵而至”。

这种想法简直是在自找麻烦。川普应该想想另一位总统的经验。德怀特·艾森豪威尔有句名言：“计划毫无价值，但制定计划是至关重要的。”他的意思是，一旦战争或危机开始爆发，没有任何既定的计划能够应对所有突如其来的状况。但是，如果你经历了一个严格的制定计划的过程，深入了解了问题的本质和可能出错的环节，并在团队内部建立起了信任，你就能极大地提高临场应变的能力。

这正是川普对伊朗开战前所缺乏的，而我们今天正在为此付出巨大的代价。想象一下，如果比德黑兰或川普聪明且危险成千上万倍的人工智能代理失控了，将会发生什么。