文章来源:万象ai发布时间:2025-07-08 17:47:05
IT之家 6 月 20 日消息,近年来,代码大模型已成为企业研发人员辅助编程必备助手,能够生成、翻译、补全代码,帮助定位和修复错误。然而,代码大模型背后隐藏的风险挑战还有待讨论。
中国信息通信研究院(以下简称“中国信通院”)依托中国人工智能产业发展联盟(AIIA),联合业内近 30 家单位共同编制了《代码大模型安全风险防范能力要求及评估方法》规范(简称“规范”),聚焦代码大模型的安全能力,从基础功能出发,评估代码大模型的基础能力和安全风险防范能力。
2024 年 6 月 18 日,规范第三次研讨会成功举办,对规范内容做出进一步的完善和修订,现已完成定稿。
IT之家附部分参编单位如下(排名不分先后):
中国信息通信研究院
北京百度网讯科技有限公司
科大讯飞股份有限公司
蚂蚁科技集团股份有限公司
中国邮储银行
中国民生银行
中债金科信息技术有限公司
交通银行
华夏银行
龙盈智达(北京)科技有限公司
北京市商汤科技开发有限公司
阿里云计算有限公司
北京大学
小米移动软件有限公司
维沃移动通信有限公司
海信视像科技股份有限公司
浪潮软件科技有限公司
北京云起无垠科技有限公司
浙江大学滨江研究院
广东拓思软件科学园有限公司
浙江御安信息技术有限公司
万商天勤(上海)律师事务所
深圳开源互联网安全技术有限公司
据介绍,规范的制定旨在全面评估代码大模型在安全风险防范方面的能力,通过分析和测试,确保模型在各个关键环节的安全性能。
本规范的评估不仅包括代码大模型的核心功能,也涵盖了与之相关的多个细分领域,如数据集、算法、模型、网络以及服务等。

▲ 代码大模型安全风险防范能力评估框架
根据评估结果,规范将确定代码大模型的安全能力级别,为模型的进一步优化和安全加固提供指导,同时也为用户从安全性角度提供选型依据。
目前,中国信通院正式启动首轮代码大模型安全风险防范能力试评估工作,报名将于 8 月底截止,预计年底发布评估结果。
相关攻略 更多
OpenAI底层AGI技术被曝光!前研究主管豪言:从此再无新范式
爆款AI视频越来越多,但本质我觉得跟炒股没区别。
Cursor+Claude的SVG图片生成功能,强到离谱,强烈建议写PPT没思路的时候买个会员
超20万人使用!最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了~
营销获客AI公司Clay,花7年找到PMF后,快速实现10倍增长的秘密
5天连发5个王炸!MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
数字疗法AI医疗独角兽SwordHealth再融4000万,估值冲至40亿美元背后的战略棋局
最新资讯 更多
OpenAI底层AGI技术被曝光!前研究主管豪言:从此再无新范式
更新时间:2025-07-25
爆款AI视频越来越多,但本质我觉得跟炒股没区别。
更新时间:2025-07-25
Cursor+Claude的SVG图片生成功能,强到离谱,强烈建议写PPT没思路的时候买个会员
更新时间:2025-07-25
超20万人使用!最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了~
更新时间:2025-07-25
营销获客AI公司Clay,花7年找到PMF后,快速实现10倍增长的秘密
更新时间:2025-07-25
5天连发5个王炸!MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
更新时间:2025-07-25
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
更新时间:2025-07-25
数字疗法AI医疗独角兽SwordHealth再融4000万,估值冲至40亿美元背后的战略棋局
更新时间:2025-07-25
宁德时代领投,「银河通用」完成超10亿元新一轮融资
更新时间:2025-07-25
【译】万字长文解读:生成式AI的21个设计模式、示例及应用策略
更新时间:2025-07-25