以安全治理框架，筑人工智能未来

文章来源：万象ai发布时间：2025-06-04 10:47:45

在科技飞速发展的当下，人工智能已经成为推动社会进步的关键力量之一，但随着人工智能的应用场景不断扩大，其面临的安全挑战和风险也日趋复杂。9月9日，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版（以下简称《框架》），无疑为这一时代难题提供了重要的解题思路。以安全治理框架，筑人工智能未来

安全是发展的前提。模型算法安全、数据安全、系统安全等内生风险，以及网络域、现实域、认知域、伦理域等应用安全风险，看似微小的问题，却可能引发连锁反应，造成严重影响。比如近期在韩国，深度伪造技术被用于制造虚假信息，已经对社会秩序和个人隐私构成了威胁。显然，面对日新月异的人工智能技术，我们不仅需要关注技术发展本身，还要兼顾社会、伦理和法律等多方面的因素，用一个全面的框架来指导人工智能安全治理。细看这份《框架》，分为安全风险、技术应对措施、综合治理措施和安全开发应用指引四大板块，不仅明确了人工智能安全治理的基本原则，也明确了人工智能模型算法研发者、服务提供者、重点领域使用者和社会公众等不同主体的安全规范，为促进人工智能的健康发展和规范应用提供了基础性、框架性技术指南。特别值得一提的是，此次《框架》提出了“包容审慎、确保安全”的治理原则。它明确指出，鼓励发展创新，对人工智能研发及应用采取包容态度，同时严守安全底线，对危害国家安全、社会公共利益、公众合法权益的风险及时采取措施。应该说，这既为人工智能技术的自由探索留足了空间，也为可能出现的风险筑起了坚固的防火墙。正如古人云，“明者因时而变，知者随事而制”，对人工智能的治理同样需要细致入微、张弛有度。通过明确安全规范和技术标准，引导人工智能产业健康发展，不仅有助于提升我国人工智能产业的整体竞争力，还将为全球人工智能的发展贡献中国智慧和中国方案。当然，《框架》的发布只是第一步，人工智能安全治理需要**、企业、科研机构和社会公众的共同参与。比如，**部门应加强监管，为人工智能的安全发展保驾护航；企业应加大技术研发投入，提高人工智能的安全性和可靠性；科研机构应深入研究人工智能安全问题，为解决实际问题提供智力支持；社会公众也应增强安全意识，正确使用人工智能产品，共同营造安全、可靠、公平、透明的人工智能发展环境。科技以人为本。在人工智能的浪潮中，我们既要有乘风破浪的勇气，又要有未雨绸缪的智慧。如今，通过建立健全安全治理框架，我们显然更有信心应对人工智能带来的挑战，共同走向一个更加安全、可持续的人工智能的未来。