你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

文章来源：万象ai发布时间：2025-07-11 20:19:02

图源：春日矮男 via 微博无独有偶，此前5月3日，博主DeadPrince在微博私信被告知，自己的自拍被陌生人制作成了LoRA模型上传到了绘画模型分享网站CiViTal，并且有人使用该模型绘制了裸照。你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

图源：浙江之声

由于感觉不太对劲，电影制作公司向“卷福”经纪公司确认，确认后才发现，这是一场AI骗局。据电影公司工作人员介绍，如果仅从语音电话看，由于声音相似度高达100%，他们完全相信对方就是“卷福”。

你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

图源：@skyferrori via twitter

由于这组AI生成的图片太过“火爆”，以防路人误解，推特作为平台方，及时将图片标记上了“AI-generated”（AI生成）。

你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

纵观海内外，近期有不少平台及时跟进针对AI内容的监管，发布了人工智能相关的规范和举措。

一、抖音发布《抖音关于人工智能生成内容的平台规范暨行业倡议》

该行业倡议其中的第九条至第十一条，提到了对AI生成内容进行标识以及将对虚拟人提供注册能力，并且会开放用户反馈渠道。

9. 平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。10. 平台将提供虚拟人的注册能力，并对已注册的虚拟人形象进行保护。11. 平台将提供用户反馈渠道，方便用户反馈违规生成内容。相关文章：《抖音新规落地！虚拟主播终于“合法”，但必须自曝身份、真人驱动》二、小红书在笔记中添加AI创作标识在4月底，有部分小红书用户发现，平台开始标记AI生成的内容，并请用户注意甄别真实度。

你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

图源：网络

三、谷歌在2023开发者大会宣布为AI生成图片打水印

谷歌在最近召开的2023年开发者大会上宣布，将确保公司的每一张AI生成图片都内嵌水印，该水印虽然无法以肉眼识别，但谷歌搜索引擎等软件可读取并以标签显示出来，以提示用户该图片由AI生成。在未来的几个月内，这项功能将上线。

此外，我国在2021年就发布了《新一代人工智能伦理规范》，其中涉及战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。并且在今年3月，网信办发布了《生成式人工智能服务管理规定（征求意见稿）》，对生成式AI服务提供者的行为进行了规范，还包括用户权益保护、信息安全保障、技术安全保障等方面。

放眼海外，意大利**在今年3月对ChatGPT实施了临时禁令，理由是担心它违反了欧盟的《通用数据保护条例》。5月16日，OpenAI的CEO Sam Altman也在美国参议院就AI技术的潜在危险作证，并且督促立法者对开发GPT-4等先进AI系统的组织实施许可要求和其他法规。

你的自拍照可能被收入“不雅图素材库”，AI作恶“一键脱衣”

OpenAI CEO亮相美国国会山，呼吁监管AI

图源：网络

可以看到，目前这些侵害更多还是在信息领域。一方面从物料来看，是相对无主的公共信息，原本茶余饭后街谈巷议的东西，虽然有大量的虚假和臆测，但无非也就是从这个街头传到那个巷口，但就像社交媒体能把信息流放大，恶人们也可以用AI把浊流放大；另一方面从受害者来说，则大多是有口难辨的普通人，发声明也没人看，更很难去发律师函了。尽管法律法规以及平台都在跟进对AI技术的监管，但普通人的维权成本还是很高。

问题回到恶人，当他们藏身于网络背后，管住他们手里的刀成为一个必须去做的事。