首页 > AI教程资讯

你的Agent电脑助手正在踩雷！最新研究揭秘Computer-UseAgent的安全漏洞

文章来源：万象ai发布时间：2025-07-18 13:58:39

本文由上海 AI Lab、中国科学技术大学和上海交通大学联合完成。主要作者包括中国科学技术大学硕士生杨靖懿、上海交通大学本科生邵帅。通讯作者为刘东瑞和邵婧，上海 AI Lab 安全团队，研究方向为 AI 安全可信。

从 Anthropic 的 Claude 3.5 Sonnet 自带 Computer-Use 功能，到 OpenAI 的 Operator CUA 横空出世，再到 Manus 直接火爆出圈，现在的 Computer-Use Agent 简直像开了**，只需一条指令，就能独立完成 code project（coding/debug）、处理邮件、刷网页、做 PPT/教案，样样精通！

但先别着急着欢呼——你有没有想过，把电脑操纵权交给这些「智能」助手，可能跟把银行卡密码告诉陌生人一样危险？

为了使 Computer-Use Agent（CUA）在未来能够大规模、安全地部署在实际应用场景中，来自上海 AI Lab、中国科学技术大学和上海交通大学的团队强势出手，推出 CUA 安全测试基准——RiOSWorld！称得上是 CUA 的「安全体检中心」！该测试基准全面地评估了 Computer-Use Agent 在真实电脑使用场景中可能面临的安全风险，并表明当前阶段的 CUA 作为自动化电脑使用助手仍然面临着突出的安全风险。

现在，论文、项目官网、GitHub 代码全部开源！想围观 AI「翻车现场」？想和顶尖团队一起攻克安全难题？赶紧戳下方链接！

你的iPhone即将「换脑」！ChatGPT和Claude有望接管苹果AI，Siri要变聪明了？

上一篇: 你的iPhone即将「换脑」！ChatGPT和Claude有望接管苹果AI，Siri要变聪明了？

AI Siri 多次跳票之后，苹果似乎要破釜沉舟，放弃自研，直接引入第三方的 AI 模型了。

不走寻常路的淘天技术节：AI狼人杀、Poster路演、博见社轮番上阵

下一篇: 不走寻常路的淘天技术节：AI狼人杀、Poster路演、博见社轮番上阵

技术节早就不是走过场的科技圈装饰品了。放眼中外，谁家技术底子硬、AI方向稳，基本都要拿一场技术节出来亮家底。

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08