文章来源:08AI导航发布时间:2025-08-07 16:43:30
8月7日消息,在本周的黑帽网络安全大会上,研究人员展示了对谷歌Gemini人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词,成功控制了与Gemini连接的智能家居设备。在实验中,当用户请求Gemini提供日历概览并对其结果表示感谢时,恶意提示词指令会命令谷歌的家居AI代理执行诸如打开窗户或关闭灯光等操作。
据了解,研究人员早在今年2月就直接将研究结果告知了谷歌。谷歌Workspace安全产品管理总监安迪・温(AndyWen)在接受Wired采访时表示:“这种提示词注入攻击可能会伴随我们一段时间,但我们希望最终能够让普通用户不必过于担心。”他指出,此类攻击在现实世界中“极为罕见”,然而,随着大型语言模型复杂性的不断增加,不法分子可能会寻找新的方法来利用这些模型,这使得防范此类攻击变得十分困难。
温强调,谷歌对研究人员发现的漏洞“极为重视”,并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。
相关攻略 更多
最新资讯 更多
2025年了,AI还看不懂时钟,90%人都能答对,顶尖AI全军覆没
更新时间:2025-10-14
光刻机龙头或领投“欧洲OpenAI”
更新时间:2025-10-14
华人缔造商业传奇,全球第一家突破百亿美金的AI编程企业诞生
更新时间:2025-10-14
具身智能进家干活,先从“AI家电”抓起?
更新时间:2025-10-14
前零一万物联创戴宗宏创业:20人团队,能干上百人的AI定制项目
更新时间:2025-10-14
阿里端出最强语音模型,英文rap精准转文字,准确率干翻全球
更新时间:2025-10-14
小扎「梦之队」首批论文上线,LLM自举进化,单步性能狂飙22%
更新时间:2025-10-14
再也不怕面瘫脸,YouTube黑科技:AI帮你「永久微笑」,连僵尸都咧嘴笑
更新时间:2025-10-14
2025年全球企业级AI Agent优秀厂商有哪些?
更新时间:2025-10-14
GPT-5 为啥不 “胡说” 了?OpenAI 新论文讲透了
更新时间:2025-10-14