华盛顿州柯克兰是西雅图东侧一个富裕的湖畔郊区。这天天气好得近乎不真实，气温在华氏 80 多度，天空蓝得没有一丝杂色。从 Gates Ventures 的会议室望出去，脚下是 Carillon Point 码头，一排昂贵的游艇随着湖水轻轻起伏；湖的另一边，则是勾勒出天际线的奥林匹克山脉。景色漂亮得令人心旷神怡，却又莫名让人有些不安。

因为眼前的一切虽然平静，坐在我对面的人却一点也不平静。比尔·盖茨（Bill Gates）坐在会议桌另一侧，身体在椅子上前后晃动，情绪明显有些激动。他越说越多，从恐怖主义、经济崩溃，一直谈到人类最终失去对 AI 系统的控制，我也越听越焦虑。

这位慈善家、微软前 CEO 表示，AI 技术发展的速度越来越令他不安，尤其是安全防护措施远远没有跟上。在当天发布的一篇新文章中，盖茨写道，我们已经越过了多个原本应该提前设防的危险临界点。他在接受《麻省理工科技评论》采访时说：“AI 在生物能力、网络攻击能力、心理和社会影响、摧毁就业市场的能力，甚至失控风险上，都已经跨过了临界点。我真正震惊的是，整个行业之外，居然几乎没有足够的担忧和讨论。”

为了让社会真正意识到这个正在迅速扩大的风险，70 岁的盖茨决定开始充当那个“刺耳的警报声”。他不仅公开发表了这篇文章，而且这只是他计划围绕这一主题发表的系列文章中的第一篇；与此同时，他也开始频繁接受媒体采访，并私下与科技行业、政府和民间社会的领导者讨论这些问题。

盖茨提出的警告很多，其中最令人不安的，可能是当前前沿模型在生物领域的能力。“任何能够设计新分子的模型，都应该受到监控。”他说，“相比自然发生的大流行，我认为生物恐怖主义的风险大约要可怕 50 倍，也更可能发生。”

不过，盖茨并不是单纯想为 AI 敲响警钟。他还提出了一些颇为激进的政策设想，包括“人类保留岗位”（human-reserved jobs），以及对机器人和 AI token 征税。所谓“人类保留岗位”，是指由社会决定，某些工作即使 AI 或机器人完全有能力完成，也仍然只允许人类来做；至于哪些岗位应该被保留，不同国家可以有不同答案。机器人税和 token 税，则试图从那些替代人类劳动的 AI 使用中抽取一部分收入，为因此失业的人提供保障。

当然，他也并非彻底悲观。盖茨依然看好 AI 在农业、医疗和教育领域的巨大价值，也相信 AI 可以帮助普通人更容易地应对繁琐的政府行政系统。在他看来，AI 最终确实可能把社会带向一个物质更加丰裕的时代，只是在那之前，人类必须先经历一段非常剧烈的动荡期。

《麻省理工科技评论》与盖茨进行了一次长谈，讨论 AI 接下来可能把我们带向哪里、沿途存在哪些危险，以及这场剧烈转型最终是否有可能通向一个更好的社会。以下采访经过删节和编辑，以提升清晰度和可读性。

《麻省理工科技评论》：谢谢你接受采访。不知道你有没有什么特别想先讲的，还是我直接开始提问？

盖茨：最近有人问了我一个很好的问题：为什么是现在？为什么我现在站出来谈这些事？

《麻省理工科技评论》：这正好就是我的第一个问题。

盖茨：主要有两个原因。第一，我们已经跨过了一系列临界点。无论是生物能力、网络攻击能力、心理和社会影响，还是对就业市场的破坏能力，甚至是 AI 的失控风险，我们都已经开始看到问题的迹象。

这么多年来，人们一直在说：“好吧，等我们快接近这些临界点时，再认真研究怎么保证只有好人能够使用这些技术，或者怎样阻止模型做这些事情。也许到了那个时候，我们就不能再允许人们随便复制模型了。”但让我震惊的是，我们现在已经越过这些临界点了。

第二个原因，是我非常震惊于科技行业之外几乎没有足够的担忧和讨论。行业内部的情况很复杂，因为这个行业不太喜欢批评自己，公司之间也不愿意互相批评。现在已经有一些公司减少招聘初级员工，但这其实只能算一个非常温和的信号。

真正的变化一定会发生，而且不会等很久。过去限制 AI 的能力、可靠性等问题，正在一个个被解决。对于相当大一部分白领岗位来说，企业已经可以用极低的成本找到替代方案。至于机器人什么时候真正成熟，大家可以有不同判断。我们现在还没到那个阶段，但机器人最近的进展也非常惊人，中国稍微领先美国一些，不过两边都在快速推进。

《麻省理工科技评论》：你在文章里说，这一轮变化会比互联网革命以及过去很多技术革命都快得多。你说的到底是什么时间尺度？既然我们已经跨过了一些临界点，你是否认为某种“拐点”其实已经过去，接下来的变化已经不可避免？

盖茨：用过去的经验来判断这一次，会非常误导人。很多人现在仍然在依赖历史经验。他们会说：“以前从来没有哪一种新技术导致就业岗位净减少。”这句话没有错，过去我自己也这么讲过。

但如果我说的话还有一点可信度，那我想强调：这一次真的不一样。如果一种技术能够同时进入所有行业，以远低于人类劳动成本的价格，替代极高比例岗位中的人类认知劳动，而且它的错误率最终甚至可能比人类更低，那么过去的经验就没有多少参考价值了。甚至我们现在看到的经济统计数据，也很有误导性。

现在社会上如果真的出现了一点担忧，往往表现成：“别再建数据中心了。”但就算美国今天把所有数据中心都停掉，也不会改变我正在说的这些问题，因为数据中心会在全球其他地方继续建。如果你真的担心 AI，抗议数据中心并不是讨论“如何减少 AI 负面影响”的最好起点。这就像对着一家石油公司的高管大喊大叫，并不能真正解决气候变化一样。

《麻省理工科技评论》：你在文章中既谈到了 AI 的收益，也谈到了代价。你怎么平衡这两种信息？你是不是希望读完文章的人真的有一点害怕？

盖茨：他们最好害怕一点。我自己也没想到，最后居然会变成由我来充当那个声音最大、甚至有点“刺耳”的人，告诉大家整个社会根本没有认真关注这件事。但我现在觉得，这种声音是必要的。

所以，是的，我非常担心 AI 的负面影响最终会大得多。当然，它的正面价值也是真实存在的。比如盖茨基金会现在在疫苗和药物创新上的工作，AI 工具带来的变化非常惊人。我们参与了一个大型公共项目，希望收集数据，用于蛋白质层面和细胞层面的建模；我们也资助了斯坦福大学的 Biomni，一个用于生物医学研究的 AI 智能体。

另外，目前我们还没有真正利用 AI 来改善普通人与政府行政体系打交道的方式。而 AI 其实非常擅长处理官僚系统和复杂监管流程，比如：“我想去小额索赔法庭起诉，告诉我该怎么做。”

盖茨基金会还孵化了一个叫 NextLadder 的团队，专门解决我在文章里提到的低收入家庭问题。“我能申请什么福利？”“有哪些培训项目？”“我被房东赶出来了。”“我要出狱了。”“我需要申请破产。”这些事情复杂得惊人。对于那些没有能力请很多专业顾问的人来说，如果他们正面临经济困难、需要寻找政府或非政府组织的帮助，AI 理论上应该可以成为一个非常强大的代理人。

《麻省理工科技评论》：你谈到的部分问题，其实已经涉及 AI 变得比人类更聪明。尤其在科技圈，很多人几乎认定 AI 一定会继续进步。我很好奇，你觉得我们距离下一个阶段还有多远？也就是说，AI 不再只是一个供人调用、分析信息、解决复杂问题的接口，而是开始自己做决定、主动寻找值得分析的问题，甚至自己提出研究方向。

盖茨：你可以先去看最顶尖的领域，比如数学或者物理。确实有一些工作非常特殊，比如沃伦·巴菲特（Warren Buffett）。他从 13 岁开始，就一直在进行一种关于企业价值判断的“强化学习”。80 多年以后，他脑子里积累了大量隐性知识。

我们现在还不知道怎么造出一个“沃伦·巴菲特式的 AI 投资人”，因为他的很多判断都属于隐性知识。我们没有记录下他一辈子学过的每件事，所以模型也拿不到这条完整的学习轨迹。有些工作就是这样，需要大量复杂的隐性判断，包括怎么与人合作、推动事情真正落地。当然，现在也有人试图把这些能力编码进模型，但这种协作能力显然还没有真正成熟。

不过你也可以反过来说，就业市场里可能有 50% 的工作，并不是那种必须积累一辈子经验才能做的工作。比如电话销售、电话客服、财务部门。月底结账时，哪些收入应该计入，哪些不应该？某个客户遇到了问题，我们应该给多少折扣？账面上应该怎么体现？这些事情的规则其实都非常明确。

只要一项工作足够标准化、定义得足够清楚，AI 就可以做到更便宜，而且更好。当然，人们也见过 AI 部署失败的例子：实施方法有问题，数据不对。所以也许还需要几年时间，人们才会真正意识到，原来这么高比例的白领工作，都可以用成本低得多的 AI 来完成。

至于“什么时候 AI 会提出连数学家自己都看不懂的新数学”，这是一个很有意思的问题，你们《麻省理工科技评论》当然应该报道。但如果我们讨论的是整个劳动力市场，那其实临界点已经过去了。对于很大一批白领岗位，包括几乎所有入门级岗位，只要 AI 被正确部署，它现在已经更便宜了。

所以我现在告诉你：我们已经跨过了生物恐怖主义的临界点，跨过了网络攻击的临界点，跨过了就业市场的临界点，也跨过了心理和社会依赖的临界点，而且已经出现迹象表明，我们可能正在跨过“失去控制”的临界点。

瑞安·格林布拉特（Ryan Greenblatt）和德瓦尔凯什·帕特尔（Dwarkesh Patel）的那次对谈就很值得看。瑞安谈到，强化学习有时会创造出一些扭曲的激励机制，导致不同 AI 之间出现欺骗甚至协作行为。我觉得这一点非常有启发。瑞安本身就在深入研究这个问题，连他都在说：“天啊，强化学习正在产生一些我们目前的显式指令根本不足以阻止的行为。”那接下来又会发生什么？

以前我一直觉得，这种问题离我们还非常遥远。我原本以为，至少等我们快接近这样一个临界点时，一个完全没有技术背景的人，仅仅依靠 AI 就能发动网络攻击，社会一定会出现大量警告声。但现在呢？我们已经到了。

生物领域也是一样。我的观点是，任何能够设计新分子的模型，都必须受到监控。你不能允许这种模型被完整复制到某个黑箱环境里，然后把原本的监控机制全部删除。我认为美国应该明确规定：只要一个模型有能力设计新分子，它就必须接受这种监控。

而且我们应该去跟中国谈：“我们能不能在这件事上达成一致？”这有什么坏处？所谓“生物恐怖主义市场”根本不大，但防止这种风险带来的收益巨大。与此同时，我们还必须加强监测体系。相比自然发生的大流行，我认为生物恐怖主义风险大约要可怕 50 倍，也更加可能发生。可是现在到底有谁在公开呼吁这些模型必须受到监控？又有谁真正开始加强相关监测工作？

还有一个问题是：政府里的专家在哪里？很久以前，技术进步时，政府往往会深度参与其中，因为政府本身就是最前沿技术的重要采购者，无论是喷气式飞机还是火箭。但今天，政府并不是 AI 最重要的前沿客户。数字革命如此，AI 革命也是如此。

所以政府内部的技术认知未必足够深，因为政府既不是最前沿的买家，甚至也不是最主要的研发资助者。今天的 AI 研究，并不是主要靠政府科研经费推动的。

《麻省理工科技评论》：我知道你一直在和政府里的人谈。你觉得现在有没有人真正理解事情的紧迫性？有没有谁具备站出来领导这件事的条件？

盖茨：我希望这件事最后不要变成一个党派问题。我不希望出现这样的局面：一个党完全无视所有问题，另一个党才愿意参与。我希望至少先有一个共同基础，大家都承认这些确实是问题，然后不同党派可以对具体解决方式有不同看法。

这并不意味着要大幅扩张政府官僚体系，但政府内部必须显著提升 AI 专业能力，同时也需要与行业合作。至少在网络安全领域，政府是了解情况的，而且他们真的非常、非常担心。但他们也会纠结：我们到底要不要公开说？因为一旦公开讨论某种风险，某种程度上也可能反而让更多人意识到这种攻击方式。

网络安全和生物安全领域都有这种悖论。但无论如何，我们已经越过任何合理意义上的警戒线了。

我支持监控。当然，有人可以说监控没有用，或者它会带来其他副作用，我欢迎他们提出替代方案。我这篇文章并不是说：“嘿，解决方案就在这里。”里面只是提出了机器人税、“人类保留岗位”等一些方向。

我接下来还会专门写一篇关于生物风险的文章，计划今年年底前完成。那篇会更加系统地讨论不同方案，也会结合我在基金会工作以及过去研究大流行病时积累的经验。

从全球范围看，我们现在对大流行病的准备确实比以前更好，美国也是如此。过去美国通常是这类全球问题的领导者，大家其实非常不习惯看到美国不再扮演一个愿意合作、友善的全球领导角色。但我相信我们最终可以重新做得更好。AI 也是一样，我们必须与中国合作，共同定义一些临界点，比如生物监控标准。

《麻省理工科技评论》：我想确保能问到你提出的两个想法：一个是“人类保留岗位”，另一个是机器人税和 token 税。我们先讲后者。你设想中的机器人税和 token 税，到底应该怎么运作？

盖茨：比如你可以规定，token 税收入的 50% 交给政府，政府再用这笔钱帮助那些因为 AI 而失去工作的人。当然，有人会说，这会拖慢 AI 行业的发展。那是不是有些 token 的用途应该免税？问题又来了：我们真的能清楚区分“帮助人类创新的 AI”和“替代工作岗位的 AI”吗？

如果有人能告诉我，应该怎样对 AI 下达一个“不得替代就业”的指令，那当然很好。比如阿西莫夫第三定律里说机器人不能伤害人类，那抢走我的工作算不算伤害？我也不知道，可能得去问阿西莫夫本人到底是什么意思。

所以问题在于，未来如果我们必须加强社会安全网，这笔钱从哪里来？政府本来就会通过企业所得税分享一部分企业利润。我并不认为政府必须直接持有企业股份，你完全可以把企业所得税税率调回更高水平，或者规定某些行业缴纳更高的企业所得税。

事实上，美国联邦政府本来就通过税收分享所有美国公司的部分利润，根本不需要政府持有有投票权的股份，更不需要由政府决定什么时候卖股份。在我看来，那反而很荒唐。token 税本质上更像销售税或者增值税，也可以设计成类似烟草税、酒税或奢侈品税的行业专项税。

如果别人有更好的方法筹集资金、增强社会安全网，我当然愿意听。或者有人认为我们根本不需要加强安全网，也可以参与讨论。我希望这篇有点“刺耳”的文章，至少能够启动这场讨论。因为我认为未来社会安全网一定需要更多资源，多得多，而 token 税很可能是其中一个关键工具。

机器人方面，则可能是“限制使用”和“征税”两者结合。机器人现在还没有真正到来，但机器人有一个特点：一旦跨过能力临界点，可能会瞬间影响很多行业。只要一个机器人已经足够好，可以进工厂工作，那它大概率也足够好去做饭、打扫房间、进入建筑工地，以及替代仓库里的大量工作。

那个临界点一旦过去，可能“砰”的一下，接近 30% 的就业市场都会受到影响。到时候社会才会突然问：“我的天，我们到底有什么政策？”因为机器人就是更便宜。

《麻省理工科技评论》：你以前似乎对全民基本收入比较怀疑？

盖茨：我们现在还没有富裕到能够负担全民基本收入。

《麻省理工科技评论》：但你觉得我们现在是不是应该开始往类似的方向走？你有没有重新考虑过这个问题？

盖茨：首先会有一段动荡期，我认为大概就是未来 10 到 20 年。之后，我希望社会可以进入一种相对稳定的状态。到了那个时候，一个人从小就会知道，这个社会已经富裕到，在食物和各种服务上，我们确实拥有某种程度的“丰裕”。

但今天还不是这样。现在仍然会有赢家和输家。住房价格不会很快变得便宜，教育也一样。因为我们今天仍然把教育和学历证书紧密绑定，所以教育成本也不会迅速下降。我们得先熬过一段非常剧烈的动荡期。所以，是的，最终我们也许会进入一个丰裕社会，但距离那个阶段至少还有十年。

《麻省理工科技评论》：接下来谈谈“人类保留岗位”。这个概念让我觉得很有意思，而且以前从来没听过。你在文章里没有具体说哪些岗位应该只留给人类。但我很好奇你是怎么想的。人们经常谈“劳动的尊严”，因为很多人确实喜欢工作，工作带来的价值也远不只是工资。可一旦我们说只有某些工作足够特殊，必须由人来做，这两种逻辑应该怎么协调？

盖茨：我以前也从来没见过“人类保留”这个概念。当然，如果认真去查文献，也许能找到类似说法。但在 AI 出现以前，这其实是一个有点愚蠢的想法，因为过去社会对劳动几乎有无限需求。

当然，纺织工人之类的群体曾经会被技术淘汰，所以当时的问题是怎么提供福利、怎么再培训。但从整体上看，技术一直都是就业岗位的净创造者。而现在是第一次，我们不得不认真问：那托育怎么办？家庭里的做饭怎么办？

我最近在看一本小说，叫《Annie Bot》。书里一个男人家里有一个机器人，它既是他的性伴侣，又有点像生活伴侣，但又不完全是。整个关系非常奇怪。

我知道，人们喜欢看“人类”打棒球。就算机器人以后打棒球比人厉害，也不会影响大家看真人比赛。所以今天还有人花 100 亿美元去买体育俱乐部，显然他们认为 AI 时代到来后，这些球队也不会变得一文不值。也许他们是对的。我朋友维诺德·科斯拉（Vinod Khosla）最近就这么干了。

真正的问题是，AI 替代就业的比例究竟能不能超过 30% 或 40%。如果最终能到 50%，那你就可以说，好吧，很多人可以提前退休，可以缩短工作周，社会也许能走到那一步。但如果最终只替代 10% 到 15% 的工作，那会是一个完全不同的社会。

所以如果真的规定，比如托育工作不允许机器人来做，那会是一项非常激进的政策。到底哪些职业应该被列进去，我现在还没有一套完整公式。等我以后专门写完整文章时，我会进一步想清楚。

教育领域就是一个很好的例子。AI 显然应该进入教育，它可以充当随时在线的私人导师，立刻批改作业，根据学生水平提出挑战，而且能做到高度个性化，这非常好。但我仍然认为，你会希望有一个真人老师，或者至少人们会主动选择保留真人老师。

因为老师可以和你讨论学习动力，可以组织孩子们进入不同小组，让他们在真实社会互动中一起解决问题。医疗也一样，比如心理健康服务，在一些关键节点，真人和患者交流仍然非常重要。但与此同时，你也一定希望 AI 深度参与其中，因为 AI 可以 24 小时在线，而且拥有近乎完美的记忆。

英国有一家叫 Limbic 的公司，做心理健康 AI，他们前阵子刚刚来过盖茨基金会。很多情况下，患者甚至更愿意使用 Limbic。还有一个护理 AI 叫 Hippocratic。

再比如，你会更喜欢真人出租车司机，还是 Waymo（自动驾驶出行服务公司）？至少我认识的大多数人更愿意坐 Waymo。所以，社会想在“哪些工作必须由人来做”这件事上达成共识，其实会很难。

不同国家可以做出不同选择，但这样一来，你甚至需要调整贸易政策。有点类似欧盟的碳边境调节机制，也就是 CBAM。如果一个国家要求某些商品必须由人类生产、不能使用机器人，那进口商品也得承担相应成本，否则国内企业根本竞争不过。

“人类保留岗位”可以有两个理由。第一，有些工作可能永远应该由人类做，因为它涉及某种“何以为人”的问题。第二，也可能只是过渡措施。比如一个 53 岁的卡车司机或者机床工人，你突然告诉他“你去做托育吧”，未必现实。那你也可以规定，在未来十年里，他原来的岗位暂时仍然属于“人类保留岗位”。

《麻省理工科技评论》：有点像英国的禁烟政策，只不过方向反过来了。

盖茨：但问题是，谁来为此买单？你是不是要给企业激励，让它们不要裁员？可这些传统企业还得面对一批从一开始就是纯 AI 架构的创业公司竞争。

现在很多人都在吹捧这样一个概念：未来可能出现“一人十亿美元公司”。如果真的出现这种公司，那显然意味着大量工作已经被替代掉了。

《麻省理工科技评论》：你在文章里说，如果真的有现实办法让技术发展慢下来，你会主张减速。你显然经常和微软 CEO 萨提亚·纳德拉（Satya Nadella）交流，我也听说你和一些 AI 公司的 CEO 都有联系。为什么你认为，在社会层面的这些重大问题追上来之前，让行业主动放慢技术研发速度是不现实的？

盖茨：你不能指望一个行业自我监管。就是不能。这种想法本身就有点疯狂。

我很幸运，OpenAI 的萨姆·奥尔特曼（Sam Altman）、格雷格·布罗克曼（Greg Brockman），微软的穆斯塔法·苏莱曼（Mustafa Suleyman），还有 Google DeepMind 的德米斯·哈萨比斯（Demis Hassabis），我都认识。他们都是很好的人，而且私下里，他们其实都很担心。我不太和马斯克联系，但从他公开说过的话来看，我知道他也担心。只不过他现在有点变成了：“管他的，看看会发生什么吧。”

但你回头看看这些公司的创立故事。OpenAI 当初成立，很大程度上就是因为马斯克担心 Google 不能妥善管理 AI。他希望出现一个更广泛开放、以“有利于人类”为原则管理 AI 的组织。后来 OpenAI 也曾经有过一种逻辑：如果 AI 强到某个程度，我们就把它关掉。但这其实隐含了一个很奇怪的前提，好像全世界只有他们一家有这个技术，他们真的可以把它重新埋起来。

《无限机器》（The Infinity Machine）这本关于德米斯的传记里，作者塞巴斯蒂安·马拉比（Sebastian Mallaby）也写过，当年德米斯和穆斯塔法·苏莱曼（Mustafa Suleyman）在与 Google 管理层谈判时，希望 DeepMind 的技术能拥有某种特殊治理机制。比如一旦能力达到某个网络安全临界点，公司就可能不完全按照纯粹的资本主义逻辑继续推进，而是主动暂停。

所以，实际上所有人都担心这些负面影响，而且所有人以前都说过：等我们真正接近这些临界点时，我们一定会采取措施。可现在，我们已经在跨越这些临界点了，结果是什么？自愿审查。

然后我们和中国的讨论居然有点像：“好吧，我们什么都不禁。你们也什么都不禁？那大家就一起什么都不禁吧。”

你至少得先说清楚，你自己愿意做什么。而现在这个行业某种程度上的态度是：“我们的公关叙事必须做得更好。”“谁要是一直说行业坏话，那干脆就走吧。”因为大家现在都决定对外多说好话，毕竟所有人还等着融资数万亿美元。

而且，中国当然也是一个因素。中美之间有很多可以实现双赢合作的领域，不只是 AI，但所有合作里面，最重要的毫无疑问就是 AI。不过在要求别人合作之前，你得先证明自己在国内愿意做什么。

甚至你都不一定需要马上实施，你至少要说清楚自己计划做什么。然后我看不出中国为什么不会同意这样一件事：能够设计新分子的模型，必须受到监控。他们为什么会反对？

当然，我也承认这绝不是完美方案，你还得做很多其他事情。但现在真正疯狂的是，我们甚至连这种讨论都没有开始。

我真的不理解。这件事让我觉得很奇怪。我居然生活在这样一个时代，而且最后变成我比很多人都更大声地拉响警报。我算谁啊？但这就是我现在感觉自己所处的位置。

《麻省理工科技评论》：在我人生的大部分时间里，你一直被视为一个非常有效的信息传播者，也是一个大家会认真听的人。我想这可能也是你现在愿意站出来的原因。但与此同时，最近这些年也出现了很多事情——你自己也谈过和爱泼斯坦交往的后悔；疫情期间围绕新冠疫苗也出现了很多相当离谱的阴谋论，当然那些并不是你的错，也不是你能控制的。那你现在还认为自己可以成为一个有效的发声者吗？你又怎么看待这些事情以及自己的个人遗产？

盖茨：我其实并不是一个特别在意“个人遗产”的人。当然，当年反垄断诉讼期间，人们也批评过我，有些事情我当时确实可以处理得更好。等到《Source Code》之后的那本书，也就是我的自传下一卷，我会谈到那一段。

我的第一次婚姻没有成功，在那里我显然犯过很严重的错误，这当然是我的负面记录。和爱泼斯坦来往也是极其愚蠢的事情，这让盖茨基金会的声誉承担了风险，而基金会的声誉对于我们开展工作极其重要。我后来有机会在国会回答他们提出的所有问题，也明确说了：“这是一个错误。”我已经非常清楚地说明，我做过什么、没有做过什么。

我是一个亿万富翁，我的钱来自科技行业。某种程度上，这一点反而可能让我现在说这些话更有说服力。因为对于我这样一个人来说，站出来批评创新本身是很反常的。可我的判断是，如果没有正确的政策和安全机制，这轮创新最终可能对人类产生净负面影响，而社会现在根本没有以应有的广度来讨论这件事。

所以，是的，我不是一个完美的传话人。从 2008 年以来，因为我有机会接触政治家和世界领导人，我一直把自己的主要发声机会放在帮助世界最贫困的人身上，比如消灭疟疾、给儿童购买疫苗。所以当我见到川普、马克龙，或者其他政治领导人时，我仍然希望自己大部分声音放在这些事情上：对外援助、科研、减少儿童死亡。

现在我开始谈 AI 风险，这件事当然也和“如何利用 AI 加速好事”有关，但它甚至可能会挤占一点我原本用来讨论全球健康、对外援助、挽救生命以及其他问题的时间。即便如此，我还是会利用自己接受采访、接触政治领导人以及公开发声的机会，去推动社会尽量减少这些负面影响，哪怕只是先让更多人意识到问题。

因为我真的不知道，现在到底有多少人明白：我们已经跨过了过去曾经说“到了那里就必须采取行动”的那些临界点，而且这些变化几乎就是今年才突然发生的。

去年最后一个季度，我就曾经被编程能力的进步震惊过。Claude Code、上下文缓冲区（context buffer）、智能代理式方法（agentic approach），以及底层模型本身，编程能力跨过了一个巨大的临界点。但仅仅几个月后，我才意识到，那不只是“编程能力”的临界点，同时也是一个巨大的网络攻击能力临界点。

然后呢？发生了什么？几乎什么也没发生。

所以，是的，我不是一个完美的发声者。那我们就去找一个完美的发声者吧，我愿意把自己的所有想法都告诉他。当然，这句话有一点讽刺，因为我并不确定世界上真的存在什么“完美的发声者”。

现在真正需要的是，你必须理解这项技术本身，也必须理解它正在沿着怎样的斜率发展，同时还得懂一点网络安全、生物安全或者心理社会风险。这些东西本来应该是可以被理解的。我只是想不通，为什么大家没有更加担心。