文章来源：万象ai发布时间：2025-07-11 14:43:49
前面一段时间，小编向大家介绍过，随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。
作者写道，OpenAI将在未来4年内，将算力的20%专门用于解决这方面问题。此外，该公司将组建新的“超对齐”团队来组织这方面的工作。
该团队的目标是开发达到“人类水平”，由AI驱动的对齐研究员，随后通过庞大的算力推动其发展。OpenAI表示，这意味着将使用人工反馈来训练AI系统，通过训练AI系统来协助人工评估，最终训练AI系统来进行实际的对齐研究。
不过，人工智能安全的倡导者康纳・莱希表示，OpenAI的计划存在根本性缺陷，因为最初的人类水平AI可能会失控并造成严重破坏，而这将迫使研究者去解决AI安全问题。他在接受采访时表示：“在构建人类水平的智能之前，必须先解决对齐问题，否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”
目前全世界对于AI的安全性关注度非常高，不少消息和相关措施也在快速发布，感兴趣的小伙伴可以保持关注。
上一篇: AIGC时代，保证数据安全和内容安全成为重中之重
生成式人工智能AIGC（Artificial Intelligence Generated Content）让人们看到了未来世界AI的无限潜力，但在技术成果涌现之时，内容和数据的安全问题也第一次变得格外重要。 在2023年世界人工智能大会期间举办的
下一篇: OpenAI 组建新团队，以解决控制超智能 AI 的核心技术挑战
OpenAI 宣布正在组建一个新团队，由其联合创始人兼首席科学家 Ilya Sutskever 和 Alignment 负责人 Jan Leike 共同领导，以寻找引导和控制下一代“超智能人工智能系统”的方法。 ▲ 图源 OpenAI 据悉，该团
相关攻略 更多
OpenAI底层AGI技术被曝光！前研究主管豪言：从此再无新范式
爆款AI视频越来越多，但本质我觉得跟炒股没区别。
Cursor+Claude的SVG图片生成功能，强到离谱，强烈建议写PPT没思路的时候买个会员
超20万人使用！最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了～
营销获客AI公司Clay，花7年找到PMF后，快速实现10倍增长的秘密
5天连发5个王炸！MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
数字疗法AI医疗独角兽SwordHealth再融4000万，估值冲至40亿美元背后的战略棋局
最新资讯 更多
OpenAI底层AGI技术被曝光！前研究主管豪言：从此再无新范式
更新时间：2025-07-25
爆款AI视频越来越多，但本质我觉得跟炒股没区别。
更新时间：2025-07-25
Cursor+Claude的SVG图片生成功能，强到离谱，强烈建议写PPT没思路的时候买个会员
更新时间：2025-07-25
超20万人使用！最强开源浏览器Workflow插件【内置3300+模版】效率又起飞了～
更新时间：2025-07-25
营销获客AI公司Clay，花7年找到PMF后，快速实现10倍增长的秘密
更新时间：2025-07-25
5天连发5个王炸！MiniMax这波发布周把OpenAI都整懵了|MiniMax发布周回顾
更新时间：2025-07-25
AI应用行业全景洞察丨中国丨2025年5月丨万字诚作丨Xsignal
更新时间：2025-07-25
数字疗法AI医疗独角兽SwordHealth再融4000万，估值冲至40亿美元背后的战略棋局
更新时间：2025-07-25
宁德时代领投，「银河通用」完成超10亿元新一轮融资
更新时间：2025-07-25
【译】万字长文解读：生成式AI的21个设计模式、示例及应用策略
更新时间：2025-07-25
