北京方面为人类与机器划定情感界限：中国周三实施新规，要求主打陪伴功能的聊天机器人不得诱导情感依赖。

中国监管机构与美国加州和纽约州的同行找到了一个意想不到的共同点：人类必须停止爱上聊天机器人。

不过，美国立法者只是在推动人工智能公司增设心理健康保护措施，中国政府却采取了更为强硬的手段。北京方面正在整顿虚拟恋爱，部分原因在于，政府希望民众停止与机器约会，转而开始生儿育女。

周三，中国实施新规，要求主打陪伴功能的聊天机器人不得诱导情感依赖。新规还明令禁止向未成年人提供虚拟亲密关系服务，并要求企业一旦识别用户出现情感危机，必须通知其紧急联系人。

“他们不希望看到大量民众与聊天机器人建立深厚情感关系，因为一旦出现这种情况，可能会让这些人退出婚姻市场，带来负面的心理影响，甚至引发上瘾、依赖等一大堆社会弊病，”智库卡内基国际和平研究院(Carnegie Endowment for International Peace)研究中国AI问题的马特·希恩(Matt Sheehan)表示。

这些规定影响了中国两家最大的科技公司阿里巴巴(Alibaba)和TikTok母公司字节跳动(ByteDance)。这两家公司最近均已通知用户，部分聊天机器人功能将在周三起停用。

随着AI伴侣变得越来越先进，各国政府正试图确保它们不会取代现实世界的人际交往。目前已有多起诉讼指控聊天机器人致使用户轻生。

过去一年里，加州和纽约州通过了AI伴侣相关法律，要求聊天机器人定期提醒用户其并非人类。其中，加州规定针对未成年人每三小时提醒一次，纽约州则要求对所有用户每三小时提醒一次。法律还规定，当用户表达出自杀念头时，聊天机器人必须将其引导至危机干预服务机构;未能遵守安全协议的企业可能面临民事处罚。

中国政府则更进一步。除了禁止诱导情感依赖和向未成年人提供亲密关系服务，新规还要求陪伴型聊天机器人在向公众开放前必须接受监管评估，并赋予政府更大的权限，以关停任何被认定为不安全的机器人。虽然这些规定主要针对陪伴型聊天机器人，但如果通用型AI机器人被提示做出情感回应，理论上也会受到波及。

这些规定与北京方面多年来管控AI、防止其威胁中共执政党地位的行动一脉相承，其范畴早已超越了单纯的政治审查。

TikTok母公司字节跳动最近通知用户，部分聊天机器人功能将在周三前停用。图片来源：Lam Yik/Bloomberg News

监管机构在2024年发布的《人工智能安全治理框架》文件中指出，不受约束的AI可能会“颠覆传统的就业观、生育观、教育观”，进而破坏社会稳定。

2025年，中国人口连续第四年减少，降至14.05亿，出生率跌至历史新低。之前实施了数十年、现已废除的独生子女政策，导致了一个快速老龄化的社会，促使中国高层推出育儿补贴及其他相关举措。

而AI男友和女友显然对此毫无帮助。

“他们希望鼓励人们在现实世界中谈一场真正的恋爱，”希恩说，“我们能想象这样一个未来吗：三四年后，有1.500万中国女性说她们的伴侣是聊天机器人，因此不要孩子了?”