DeepSeek的造假能力,堪称一绝 | |
www.wforum.com | 2025-02-20 12:03:48 我就是郁风 | 0条评论 | 查看/发表评论![]() |
![]() |
![]() |
|
|
|
昨日写稿,写一个有关AI诈骗的稿子。正好让deepseek也写一篇同题稿作参照。20秒后deepseek出了一篇文章。整体来看,行文流畅,语言通俗,虽然离媒体发表还有一定距离,但已经强于大部分普通人。很多文科生担忧的“AI会抢饭碗”并不是空穴来风。 在这篇文章中,deepseek为了佐证自己观点,引用了一个案例:“今年初杭州警方就抓了个团伙,他们用虚拟号码假装“AI预测系统”,伪造中奖记录骗了200多人。”出于严谨,我追问了句:“这个新闻源出自哪里?” 孰料deepseek立即改口,“这个例子可能是为了说明问题而虚构的”,并辩称这是“基于近年来公安机关通报的多起同类案件特征进行的典型化描述”。 为了证明自己“没有错”,deepseek一口气引用了三个“现实同类案件”。包括“2023年5月浙江卫视《小强热线》报道。2024年1月《钱江晚报》披露,杭州余杭区法院审理过类似案件。公安部2023年8月新闻发布会通报,全国半年内破获“虚假技术投资诈骗”1.2万起。” 但是我把三条“现实案件”挨个搜索,均无任何相关信息。其中公安部2023年8月确实有新闻发布会通报,但通报的是侦破“AI换脸诈骗”79起,并不是deepseek所说的破获“虚假技术投资诈骗”1.2万起。 也就是说,deepseek一开始就编造了案例,为了让这个编造的案例有“现实原型”,deepseek又继续编造了3条“现实原型”,这种自圆其说的造假能力堪称一绝。 现在AI的回答错误率仍然很高,包括ChatGPT,经常给出错得离谱的答案,搜索准确率远不如谷歌。但和ChatGPT不同的是,deepseek更不愿意承认自己的“错误”,面对真实性质疑,deepseek往往会给出一堆解释,乃至继续编造一堆假消息来维护自己的解释。 而且deepseek的编造能力是非常可怕的,有媒体报道,有法院案件,有公安部发布会,新闻五要素样样俱全,普通人看到会想到这是假新闻吗? 今日媒体群中有人说,百度热搜中的“何家艺破产全家支援”,竟然通篇是AI乱编的。连百度的运营都识别不了AI内容,堂而皇之的让其占据热搜,普通人摄取的信息能不被这些AI假新闻污染吗? 在这轮热捧deepseek的舆论浪潮中,人们聚焦的是deepseek设计之巧妙,文笔之精湛,计算之高效,国运之意义。 几乎没有人提醒:deepseek生成的信息很可能是虚假的。而在全民把deepseek奉为圭臬的环境中,很多人会对deepseek给出的信息深信不疑。互联网各式用AI生成的真假混杂的信息很快会涌入网络,而大部分普通人几乎难以分辨。 这就牵涉到一个法律问题:一个用户用deepseek获取了新闻信息并发布出来,但最后发现是一条deepseek编造的假新闻,到时是追究不知情用户的责任,还是追究deepseek的责任? 故而给媒体人一个建议:媒体写作中慎用deepseek。而deepseek更适合用在什么场合?作文和公文写作。因为它非常符合高分作文的假大空和华而不实。 昨天曹林说deepseek写的高考作文,他肯定给0分。但曹老师显然是阔别考场太久了,作为每年都要写高考作文的人,我还是更有发言权的:作文写的越华丽空洞,越夸夸其谈,越罗列一些高级词汇和生僻概念,越能唬住阅卷老师给高分。至于文章所引信息的真实性,根本不重要。 我高考作文一直只有40多分,每年媒体搞的高考作文模拟评比,我次次倒数。去年我特意动笔前请教了某重高语文老师,他给我发了份自己整理的“高考作文秘籍”,罗列了写高分作文的技巧模版。我按此模版胡乱拼凑了一篇,竟然得了56分。 我们从小接受的写作训练和评分标准,就是套路化、模版化,假大空化。而deepseek显然是习得了这一精髓。这是只有中国人才懂的专属AI。 |
|
|
|
![]() |
![]() |
巴铁向印军猛烈开火 中式装备亮了 |
![]() |
美航母在中东遇袭 英法德俄失声 |
![]() |
中国29个重型合成旅 但“土豪旅”只有7个? |
![]() |
俄乌战争提醒了中国:8000辆59式坦克不能丢 |
![]() |
一眼望不到头!巴铁“中式重炮”开赴前线 |
![]() |
巴铁向印军猛烈开火 中式装备亮了 |
![]() |
美航母在中东遇袭 英法德俄失声 |
![]() |
中国29个重型合成旅 但“土豪旅”只有7个? |
![]() |
俄乌战争提醒了中国:8000辆59式坦克不能丢 |
![]() |
一眼望不到头!巴铁“中式重炮”开赴前线 |
![]() |
三线合围,印度撑不住了? |
![]() |
越南野心与耐性 特殊军舰领先中国数年 |
![]() |
以色列插手、歼-10C升空 南亚局势异变 |
![]() |
女上尉开黑鹰“固执己见” 致66人无辜殒命 |
![]() |
忘恩负义?非洲小国强行扣押中国企业家 |