过度依赖AI聊天机器人可能酿祸。 美国全国广播公司（NBC）报道，一名60岁的纽约男子在阅读食盐对健康的负面影响后，依据ChatGPT建议，以溴化纳（sodium bromide）取代一般的食盐（氯化钠），3个月后他因罕见的溴中毒（bromism）症状而入院接受3周治疗。

报道指出，3名治疗该男的医生本月初将此病例发表在“内科医学年鉴”（Annals of Internal Medicine）。 根据该报告，这名先前没有精神病史的男子，到院时“对邻居毒害他忧心忡忡”。

该男说，他一直在家蒸馏饮用水。 报告指出，他似乎对别人提供的水“偏执多疑”，而在一篇实验室文献与咨询毒物控制中心后，医生们思考溴中毒，亦即高浓度溴化物的可能性。

报告指出，“在入院后最初24小时，患者表现出越来越严重的偏执、幻听与幻视，并试图脱逃，凡此种种，导致他严重失能而被强制送入精神病院”。

当情况改善后，该男表示，在阅读到食盐对健康影响的资料后，他进行戒食盐巴的个人试验，而该决定是在咨询ChatGPT之后做出的。 他说，长达3个月他天天以溴化物取代盐巴。

这3位来自华盛顿大学的医生未能取得该男与ChatGPT的对话纪录，而他们自行询问ChatGPT 3.5可以用什么取代氯化物时，答案包括溴化物。

报告说，“虽然ChatGPT的回复很重要，但没有提出具体的健康警告，也没有询问我们为什么想知道，而这是我们假设一名专业的医疗人员会问的问题”。

溴化物中毒在1900年代初期是常见的中毒症候群，因其存在于许多非处方药物与镇静剂中。 据信溴化物中毒占当时精神病入院人数8%。

美国国家医学图书馆说，溴化盐是一种无机化合物，目前仅用于猫狗的抗癫痫药物。 该报告说，溴中毒是罕见的症候群，但近期因网络使用普遍，含有溴化物的物质变得较容易取得，而使相关病例再次出现。