首页 > AI教程资讯

谷歌研究人员发表论文探讨人工智能如何毁掉互联网

文章来源：万象ai发布时间：2025-07-08 14:15:20

鞭牛士报道，7月5日消息，据外电报道，谷歌研究人员发表了一篇新论文，警告生成式人工智能正在用虚假内容毁掉互联网的广阔领域——这极具讽刺意味，因为谷歌一直在努力向其庞大的用户群推广同样的技术。

这项研究是一篇尚未经过同行评审的论文。

研究发现，绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限，在互联网上发布虚假或篡改的人工智能内容，例如图片或视频。研究人员还仔细研究了之前发表的关于生成式人工智能的研究，以及大约 200 篇报道生成式人工智能滥用的新闻文章。

研究人员总结道：操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段。其中大多数都带有明显的意图，即影响舆论、进行诈骗或欺诈活动或牟利。

使问题更加复杂的是，生成式人工智能系统日益先进且随时可用——研究人员表示，只需要极少的技术专长，而这种情况正在扭曲人们对社会**现实或科学共识的集体理解。

据我们所知，这篇论文遗漏了什么？有没有提到谷歌自己在使用该技术时犯下的令人尴尬的错误 ——作为世界上最大的公司之一，谷歌的错误有时规模巨大。

如果你读过这篇论文，你就会忍不住得出这样的结论：生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容，因为它非常擅长完成这项任务，结果导致互联网上充斥着人工智能*。

而这种情况正是谷歌自己促成的，它允许这些虚假内容泛滥，甚至是虚假内容的源头，无论是虚假图片还是虚假信息。

研究人员表示，这一混乱局面也考验着人们辨别真假的能力。

他们写道：同样，大量生产低质量、*邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度，并使用户的验证任务负担过重。

令人不寒而栗的是，由于我们被虚假的人工智能内容淹没，研究人员表示，有些情况下知名人士能够将不利的证据解释为人工智能生成的，从而以昂贵且低效的方式转移举证责任。

随着谷歌等公司继续将人工智能融入到每一款产品中，我们将会看到更多这样的情况。

为什么有的AI产品黏性差？主要在于“期望、需求、工作流”的三者关系的掌握。

上一篇: 为什么有的AI产品黏性差？主要在于“期望、需求、工作流”的三者关系的掌握。

你有没有一种感觉：最近两年里，AI产品变多了。大型语言模型公司，也不再夸耀自己模型有多少参数。取而代之的，是把模型变成了应用。各种各样AI工具出现后，大家开始围绕具体场景下的能力展开。比如，用AI来画

实探人工智能大会：人形机器人走进现实，大模型公司也要开始卷应用了｜WA……

下一篇: 实探人工智能大会：人形机器人走进现实，大模型公司也要开始卷应用了｜WA……

7月4日到7月6日，2024世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）在上海世博中心、世博展览馆举行。过去一年，人工智能加速发展，从“百模大战”演变为“百花齐放”。对于AI技术最终将落向何处

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08