首页 > AI教程资讯

AI击败AI！谷歌研究团队利用 GPT-4 击败 AI-Guardian 防篡改系统

文章来源：万象ai发布时间：2025-03-28 16:35:50

AI奇点网8月2日报道丨谷歌研究团队进行一项实验研究，他们使用 OpenAI 的 GPT-4聊天机器人来攻破其他机器学习模型的安全防护措施。这项实验证明了聊天机器人作为研究助手的价值。具体来说，谷歌 Deep Mind 的研究科学家 Nicholas Carlini在一篇题为“AI-Guardian 的 LLM 辅助开发”的论文中，探讨了如何通过指导 GPT-4设计攻击方法并撰写攻击原理的文本，以欺骗 AI-Guardian 的防御机制。AI-Guardian 是一种防御对模型的攻击的系统，旨在检测可能被篡改的图像以欺骗分类器。

GPT-4会发出用于调整图像的脚本（和解释）来欺骗分类器——例如，让它认为某人拿着枪的照片是某人拿着无害苹果的照片——而不会引发 AI-Guardian 的怀疑。AI-Guardian 旨在检测图像何时可能**纵以欺骗分类器，而 GPT-4的任务是逃避该检测。

通过 GPT-4的帮助，攻击者能够成功地破解 AI-Guardian 的防御，使其从98% 的稳健性降低到仅8%。然而，AI-Guardian 的开发者指出，这种攻击方法可能在改进的版本中失效。

据AI奇点网了解到，GPT-4作为研究助手的价值在于它能够快速生成代码，并且不会分心或疲劳，始终可用于完成指定的任务。然而，依赖 GPT-4并不完全解除人类合作者的责任，因为它仍然需要人类提供正确的提示并修复生成的代码中的错误。虽然 GPT-4还存在一些限制，但随着大型语言模型的改进，它们将为计算机科学家提供更多时间来开展有趣的研究问题。

AI一键总结！YouTube测试新功能：利用AI自动生成视频概要

上一篇: AI一键总结！YouTube测试新功能：利用AI自动生成视频概要

根据谷歌支持页面的信息，YouTube 正在测试用人工智能（AI）自动生成视频摘要的功能，这是谷歌在探索生成型 AI 技术的最新尝试之一。

马斯克又要嫉妒得发狂啦！OpenAI 现已提交 GPT-5 商标申请，将推出更多自然语言处理功能

下一篇: 马斯克又要嫉妒得发狂啦！OpenAI 现已提交 GPT-5 商标申请，将推出更多自然语言处理功能

不过据美国专利商标局（USPTO）信息显示，OpenAI 已经在上月 18 日申请注册“GPT-5”的商标。从商标信息来看，GPT-5 将提供文本生成、自然语言理解、语音转录、翻译、分析等功能。

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08