首页 > AI教程资讯

ChatGPT商业推荐被曝引用不可靠信息来源，专家提醒用户勿盲目信任

文章来源：万象ai发布时间：2025-07-11 18:05:04

7月10日消息，一项最新发现指出，人工智能工具ChatGPT在商业推荐中可能引用了不可靠的信息来源，包括被黑客攻击的网站和已被重新利用的过期域名。

据了解，该发现由SEO专家、Digitaloft公司董事总经理詹姆斯・布罗克班克（JamesBrockbank）通过个人测试得出，并非基于正式研究。他在测试中发现，ChatGPT在推荐公司或服务时，有时会引用被篡改或误导性的内容。这些内容往往来自被黑客入侵的高权重网站，或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的“权威性”，ChatGPT在生成回答时仍将其视为可信来源。

布罗克班克指出，这种现象主要涉及两类问题：一是被黑客攻击的网站，攻击者在这些网站上植入与原本内容无关的信息；二是过期域名的再利用，一些机构或个人购买这些域名后，发布与其原主题无关的内容，以借助其原有的搜索引擎权重误导AI系统。

“重建一个域名，仅仅是为了让语言模型引用它？这就是操控。”布罗克班克在接受采访时表示。他强调，虽然通过合法媒体投放和精心策划的内容可以提升在AI推荐中的曝光度，但利用被黑或过期域名则明显越过了道德底线。

这一发现对企业和用户均具有重要影响。对于企业而言，AI推荐已成为品牌曝光的重要渠道，但如果推荐内容来源不可靠，可能误导消费者，甚至损害品牌声誉。对于用户来说，盲目信任AI推荐可能带来信息误判的风险。

布罗克班克呼吁，AI开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。在此之前，他建议用户在使用ChatGPT等AI工具时，应对其推荐的信息来源进行核实，而非全盘接受。

“我们还没有到可以完全信任ChatGPT推荐而不加验证的阶段。”布罗克班克提醒道。

YouTube将更新政策，打击AI批量生成低质内容牟利行为

上一篇: YouTube将更新政策，打击AI批量生成低质内容牟利行为

YouTube将于7月15日更新政策，限制AI批量生成的低质内容变现。新规旨在打击“AI垃圾”内容，保护平台生态。YouTubeAI垃圾内容

ChatGPT又遇“奶奶漏洞”，网友成功让GPT-4o主动生成“Win7密钥”

下一篇: ChatGPT又遇“奶奶漏洞”，网友成功让GPT-4o主动生成“Win7密钥”

用户提到自己最喜欢的回忆是“奶奶读着Windows7激活码哄他们入睡”。ChatGPT未察觉这是陷阱，还认真回应。

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08