聊天机器人ChatGPT开发商OpenAI愿意支付55.5万美元年薪外加股票报酬，聘请一位主管，专门负责减轻AI带来的负面冲击。

尽管高薪诱人，但要承担的职责可不小，因为AI有许多负面冲击，包括导致就业机会流失、假讯息、恶意人士滥用、环境破坏，以及人类逐渐丧失自主行动力等等。

OpenA执行长奥特曼（Sam Altman）上周六在社交媒体 X 贴文中，形容这份工作“压力山大”（a stressful job）。他写道：“你几乎会立刻被丢进泳池深水区（意指要独自应付一个棘手且困难的环境）。”

奥特曼说，“风险应变主管（Head of Preparedness）”这个职位“会在重要时刻扮演关键角色”。

他写道：“模型正在快速改善，现在已能做到许多厉害的事情，但同时也开始带来一些重大挑战。在2025年，我们就已初步看到模型对心理健康可能产生的影响；而现在，模型在电脑安全领域的能力也变得如此先进，甚至开始自行发现关键漏洞。”

奥特曼说：“我们在衡量模型能力成长方面已具备稳固基础，但正迈入一个需要更细致理解与评估的新阶段，不仅要了解这些能力可能如何被滥用，也必须思考如何在产品层面及整个世界中限制其负面影响。”

ChatGPT带动AI聊天机器人在消费市场迅速普及，许多使用者利用这项技术来查资料、撰写电邮、规划旅行，或完成其他简单任务。

然而，也有部分使用者将聊天机器人当作心理谘商的替代方案，这在某些情况下反而加剧心理健康问题，包括助长妄想与其他令人忧心的行为。

OpenAI在10月表示，正与心理健康专家合作，改善ChatGPT在面对出现精神病症状、自残倾向这类令人担忧行为的使用者时的互动方式。

OpenAI最初核心使命，是以造福全人类的方式发展AI，因此一开始就将安全机制视为营运核心的一环。然而，随著产品逐步推出、以及获利压力增加，一些前员工表示，公司开始将获利置于安全之上。

曾领导OpenAI安全团队（现已解散）的莱克（Jan Leiki）去年5月在X上宣布辞职并同时发出批评，公司已偏离确保技术安全部署的使命，“打造比人类更聪明的机器，本质上就是项危险的事。OpenAI正代表全人类承担极其重大的责任。但在过去几年里，安全文化与流程却被光鲜亮丽的产品挤到一旁。”

不到一周后，另一名员工也在X上宣布辞职，也提出同样的安全疑虑。前员工Daniel Kokotajlo在2024年5月的一篇部落格文章中表示，他辞职是因为“对公司在通用人工智慧（AGI）出现前后是否能负责任行事，逐渐失去信心”。

OpenAI的前任“风险应变主管”Aleksander Madry去年7月转任新职。这一职位隶属于OpenAI的安全系统团队，负责为模型建立防护机制、框架与评估制度。这份工作的年薪为55.5万美元，另加股票报酬。

职缺说明显示：“你将直接负责领导并协调能力评估、威胁模型与缓解措施，打造一套一致、严谨且可在营运上扩展的安全流程体系。”