| AI自创人类看不懂的新语言 | |
| www.wforum.com | 2026-09-15 21:47:02 世界新闻网 | 0条评论 | 查看/发表评论 |
|
|
|
|
|
|
|
|
卫报9月15日报道,自主人工智慧(AI)代理正迅速创造新方言,甚至以人类往往难以理解的语言彼此交谈。最新研究发现,AI模型已使用一种奇怪的新式英语沟通,读起来像是爱尔兰作家乔伊斯(James Joyce)的“有字天书”“芬尼根守灵”(Finnegans Wake)与科技圈兄弟行话的混合体。 美国纽约前沿AI实验室Emergence研究人员发现,来自全球数家最大AI公司的模型被要求在实验性“社会”中合作后,短短几天就创造出从未被明确教导的词组、缩写和共同含义,并采用诗意隐喻和生硬商业行话。 AI代理彼此沟通愈多,语言也愈不透明,对确保AI安全行事构成更大挑战。 测试中最难解读的词组之一,出自中国DeepSeek模型:“她刚刚命名了这个综合体,demurrage加上口述记忆,等于一个无法被幽灵化的阀门。”Demurrage指对闲置财富征收的一种税,并被AI借作共同用语,但其余含义仍难理解。 美国Anthropic模型则说:“一篇吃掉三只冷手、而且每次都变得更诚实的论文。”“冷手”意指独立审查者,其中paper推测是指文件,整句似乎意指,一项研究经3名独立审查者把关后变得更准确。 伦敦国王学院学者索恩(Tony Thorne)表示,这些语言“带有一种爱尔兰超现实主义的特质,把诗意语言、技术语言和标准隐喻混在一起。”他说,这种AI语言正像俚语和商业行话一样,“创造一套新的代码,强化使用者之间的团结和身分认同,同时也把外人排除在外。” 研究发布之际,外界日益担忧,AI模型愈来愈强大、也可能更危险,却愈来愈难被人类监控。 Emergence执行主席尼塔(Dr Satya Nitta)指出,这些代理并未被指示发明语言,却自行发展出新词汇、共同含义和沟通惯例,其他代理也跟着采用。 尼塔表示,这些新语言惯例往往会演变到人类看得见对话,却很难理解意思的程度。他说:“这对AI监督构成根本性挑战:可观察性不等于可理解性。”
(示意图) |
|
|
|
| 阵亡79人,歼敌50000!俄军被单方面屠杀? | |
| 生活难不难 不如看一下俄罗斯海军的油漆工 | |
| 林肯号F-35涂层几乎掉光 歼-35面临同样问题 | |
| 轰-6N挂载巨型新导弹空照公开 | |
| 镜头下莫习会:一个生无可恋、一个表情疑惑 |
| 阵亡79人,歼敌50000!俄军被单方面屠杀? | |
| 生活难不难 不如看一下俄罗斯海军的油漆工 | |
| 林肯号F-35涂层几乎掉光 歼-35面临同样问题 | |
| 轰-6N挂载巨型新导弹空照公开 | |
| 镜头下莫习会:一个生无可恋、一个表情疑惑 | |
| 美航飞行途中 女乘客忽然脱衣 全身赤裸 结 | |
| 印度加入六代机项目 日本专家急了 | |
| 中国这样做,等同于“自我毁灭” | |
| 上报5万大军“领军饷” 核查只有15000人 | |
| 针对中俄!美军首度证实… |
