人工智能是机遇更是挑战专家建议需要从各方面强化监管

文章来源：万象ai发布时间：2025-07-09 15:32:15

央视网消息：作为网络安全宣传周重要组成部分，2023年网络安全博览会眼下正在福州举办，记者注意到，人工智能产业如何更好发展引发与会人员的关注。不少专家认为生成式人工智能虽然能够极大地方便和改善人类的生活方式，但也对网络安全构成了新的挑战，需要从各方面强化监管。

专家指出，任何技术都是有两面性的，生成式人工智能背后隐藏着一系列安全风险，对国家安全、社会安全、网络安全及数据安全均提出了新的挑战。

在安全方面，专家指出，排除人为干预，人工智能自身的安全问题也是显而易见的。

中国计算机学会（CCF）计算机安全专业委员会委员程度：第一，在源头上，数据有可能被投毒，会被污染，这样原始训练的数据可能会有问题。第二，在训练的时候，有可能有大数据歧视算法在里面，有可能它不是一个公正的算法，会导致结果有问题。第三，在最后的输出阶段会有一个反馈的机制，反馈的机制有可能会注入一些恶意的数据或者样本，也会导致这个模型得出的答案有偏差。

人工智能是机遇更是挑战专家建议需要从各方面强化监管

那么，如何应对人工智能存在的隐患？专家表示，这需要从监管和从业人员以及企业层面共同努力来应对。

人工智能是机遇更是挑战专家建议需要从各方面强化监管

广东省数字**网络和数据安全应急响应专家组专家李新亮：针对AI可能带来的安全风险，我个人觉得，从国家层面要加快相关的立法，同时要尽快制定相关的行业标准。另外，对AI的从业人员来说，一定要加强相应的培训，让他们在使用AI技术的时候能够在国家法律法规的层面开展。从企业层面而言，在采集公民信息的合规性方面一定要充分考虑清楚，同时采集的这些数据在传输存储方面一定要加强数据保护方面的相关动作。