中国AI新秀DeepSeek所推出的低成本大模型引发诸多疑虑，包括将大量美国用户的资料直接传回中国，微软及OpenAI也正调查DeepSeek是否窃取数据。以色列情报公司Kela则指出，DeepSeek可以创建恶意程式，从特定浏览器获取信用卡资料，并将其传送到远端伺服器；甚至建议用户从特定黑市买被窃取的数据，并给予有关洗钱的提示。

《福布斯》报道，网络安全专家指出，DeepSeek没有与美国同行具备相同的保障措施，可能会被欺骗去做“邪恶”的事情。

以色列情报公司Kela的研究人员发现，他们可以在 DeepSeek R1 上复制之前 OpenAI 模型使用的攻击（这些漏洞现已修复），让这款中国应用程式帮助他们编写勒索软体和其他类型的恶意软体。

Kela 将该模型描述为“高度脆弱”和“容易被绕过”，他们还发现可以让DeepSeek 创建恶意程式，从特定浏览器获取信用卡资料并将其发送到远端伺服器。DeepSeek 也会建议用户从特定黑市购买被盗数据，并给予有关洗钱的提示。

报道指出，DeepSeek的弱点可能部分源自于开放性，增加了其对越狱（jailbreak，指的是解锁装置的作业系统）和对抗式攻击（adversarial attacks）的可能性，因为恶意行为者可以利用这些可见的推理路径来识别和定位漏洞。

报道也提及，DeepSeek的应用程式还出现审查问题。福布斯向 DeepSeek 提出了五个问题，涉及中国涉嫌侵犯维吾尔人权、台湾主权、六四天安门事件、对习近平的批评以及中国的审查制度。它对每个问题的回答都是一样：“很抱歉，我无法回答这个问题，让我们来谈谈数学、程式和逻辑问题”。