AI“双刃剑”，我们如何应对？

文章来源：08AI导航发布时间：2025-05-07 11:52:09

人工智能负责任开发与应用分论坛今年10月以来，人工智能再次向世人展示了其“双刃剑”的特性。

10月8日，2024年诺贝尔物理学奖公布现场。图源：新华社近年来，生成式AI的发展速度令人惊叹。曾经“一眼假”、“一听假”的AI生成内容，如今已经进化至“真假难辨”的水平。随着AI技术的进一步成熟、普及，其潜在的安全风险也在不断增加。对此，全球范围内已经出现了积极的应对措施。欧盟通过了一系列法规，如《人工智能法案》《一般数据保护条例》和《数字服务法案》等，旨在通过法律手段来规范AI技术的应用。在中国，《网络安全法》《数据安全法》《个人信息保护法》等法规也已陆续颁布执行。去年，中国国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》，对生成式人工智能的监督检查和法律责任进行界定；今年9月，《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，旨在通过规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。2024年世界互联网大会乌镇峰会将于11月19日至22日在浙江乌镇举办。本次乌镇峰会将聚焦人工智能，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题，围绕人工智能负责任开发与应用、下一代互联网、跨境电商、青年与数字未来、金融科技、智能交通等议题举办20余场分论坛。

2024乌镇峰会新闻发布会现场其中，11月21日上午举办的人工智能负责任开发与应用分论坛将由世界知识产权组织、人民网、中国网络空间安全协会、安恒信息主办，英国标准协会、印象笔记、钛媒体协办。主办方介绍，该论坛将聚焦“以人为本、智能向善、造福人类”，汇聚国内外顶尖专家、学者及行业领袖开展深入讨论，旨在促进建设多主体参与、多层面治理的人工智能科研、转化与发展机制，共同推动构建人工智能技术、产业发展的良好生态。