滥用ChatGPT 技术，浙江出现团伙制作虚假视频案

文章来源：08AI导航网发布时间：2025-04-01 15:38:32

AI奇点网7月6日报道丨AI奇点网从绍兴公安群蓝星官方公众号获悉，近日，浙江省绍兴上虞区公安分局在成功摧毁了一个利用 ChatGPT 技术制作虚假视频并在网络上散布的造谣团伙，抓获 3 名犯罪嫌疑人，这是首例团伙制作虚假视频的案件。

6月2日，上虞警方在网络巡查中注意到一个名为“舷忆解说”的App用户发布了一段关于上虞工业园区火灾的视频，在短时间内浏览量迅速攀升警方介入核实发现视频系不实信息并很快锁定外省某科技公司有较大作案嫌疑6月5日，警方前往该外省实施抓捕行动，成功抓获了3名犯罪嫌疑人。

根据调查，该公司自5月起从互联网非法获取一批视频账号，并利用ChatGPT技术拼接虚假视频，以赢得网络流量，并通过流量算法赚取收益。目前为止，该团伙已非法购买了150多个视频账号，并发布了300多个未经核实的视频。目前，警方已经采取了刑事强制措施对3名涉嫌寻衅滋事罪的犯罪嫌疑人，并正在进一步侦办此案。

滥用ChatGPT来生成虚假的信息评论、或者推特等，这些虚假信息可能会误导公众，导致社会不稳定和混乱。还可能导致一些其他的错误與论，会导致公众对真实事件的误解，这个影响面会很广很大很深了。所以AI奇点网呼吁大家不要滥用ChatGPT技术，对ChatGPT等新兴技术抱有敬畏之心。互联网不是法外之地，请严格遵守相关法律规定，自觉规范个人网上言行，做到“不信谣、不传谣、不造谣”，共同维护网络空间秩序。