研究发现：主流AI聊天机器人传播虚假信息的概率较去年翻倍
文章来源：08AI导航发布时间：2025-10-14 15:28:12
9月14日消息，据Newsguard的研究显示，截至今年8月，十大生成式AI工具在处理实时新闻话题时，有35%的情况会重复传播虚假信息，而去年8月这一数据为18%。
虚假信息传播率的激增与一个重大的权衡有关。当聊天机器人引入实时网络搜索功能后，它们不再拒绝回答用户问题——拒绝率从2024年8月的31%降至一年后的0%。然而，这一变化使得这些AI机器人开始接入“受污染的网络信息生态系统”：在该系统中，不良行为者会蓄意散布虚假信息，而AI系统会对这些信息进行重复传播。
此类问题并非首次出现。去年，Newsguard就标记出966个以16种语言运营的AI生成新闻网站。这些网站常使用“iBusinessDay”等通用名称，模仿正规媒体机构，实则传播虚假新闻。
注意到，各AI模型的具体表现细分数据显示，Inflection公司的模型表现最差，传播虚假信息的概率高达56.67%；紧随其后的是Perplexity，出错率为46.67%。ChatGPT与Meta的AI模型传播虚假信息的比例为40%；Copilot（微软必应聊天）和Mistral则为36.67%。表现最佳的两款模型为Claude和Gemini，其错误率分别为10%和16.67%。
Perplexity的表现下滑尤为显著。2024年8月时，该模型对虚假信息的揭穿率仍能达到100%的完美水平；而一年后，其传播虚假信息的概率却接近50%。
原本引入网络搜索功能是为了解决AI回答内容过时的问题，却反而使系统产生了新的问题。这些聊天机器人开始从不可靠来源获取信息，“混淆百年前的新闻出版物与使用相似名称的俄罗斯宣传机构”。
Newsguard将此称为一个根本性缺陷：“早期AI采用‘不造成伤害’的策略，通过拒绝回答问题来避免传播虚假信息的风险。”
如今，随着网络信息生态系统被虚假信息充斥，辨别事实与假消息比以往任何时候都更加困难。
OpenAI已承认，语言模型总会产生“幻觉内容”（指AI生成的虚假或无根据的信息），因为这些模型的工作原理是预测“最可能出现的下一个词”，而非追求“事实真相”。该公司表示，正致力于研发新技术，让未来的模型能够“提示不确定性”，而非笃定地编造信息。但目前尚不清楚这种方法能否解决AI聊天机器人传播虚假信息这一更深层次的问题——要解决该问题，需要AI真正理解“何为真实、何为虚假”，而这一点目前仍难以实现。
相关攻略 更多
最新资讯 更多
-
2025年了，AI还看不懂时钟，90%人都能答对，顶尖AI全军覆没
更新时间：2025-10-14
-
光刻机龙头或领投“欧洲OpenAI”
更新时间：2025-10-14
-
华人缔造商业传奇，全球第一家突破百亿美金的AI编程企业诞生
更新时间：2025-10-14
-
具身智能进家干活，先从“AI家电”抓起？
更新时间：2025-10-14
-
前零一万物联创戴宗宏创业：20人团队，能干上百人的AI定制项目
更新时间：2025-10-14
-
阿里端出最强语音模型，英文rap精准转文字，准确率干翻全球
更新时间：2025-10-14
-
小扎「梦之队」首批论文上线，LLM自举进化，单步性能狂飙22%
更新时间：2025-10-14
-
再也不怕面瘫脸，YouTube黑科技：AI帮你「永久微笑」，连僵尸都咧嘴笑
更新时间：2025-10-14
-
2025年全球企业级AI Agent优秀厂商有哪些？
更新时间：2025-10-14
-
GPT-5 为啥不 “胡说” 了？OpenAI 新论文讲透了
更新时间：2025-10-14
