OpenAI、Anthropic研究人员齐声谴责xAI：安全文化“完全不负责任”

文章来源：08AI导航发布时间：2025-07-17 16:05:15

7月17日消息，据外媒TechCrunch今日报道，OpenAI、Anthropic等机构的AI安全研究人员近日公开发声，批评马斯克xAI的安全文化“鲁莽”“完全不负责任”。

目前在OpenAI担任AI安全研究员的哈佛大学计算机科学教授BoazBarak在X上发文说：“我原本不打算评论Grok的安全问题，毕竟我所在的公司与xAI存在竞争关系，但这件事根本不是竞争问题。我尊重xAI的科学家和工程师，但他们处理安全的方式实在太不负责任了。”

Barak特别指出，xAI拒绝发布“系统卡片”令人担忧（注：这类报告是AI行业的基本规范，通常会详细说明模型的训练方式与安全评估，以便科研界共同监督）。正因为xAI没有公布相关信息，Grok4是否进行过任何安全训练如今无从得知。

Barak还对Grok的AI虚拟角色提出批评，认为它们“放大了我们在情感依赖方面最糟糕的问题”。近年来已有不少案例显示，一些心理状态不稳定的人会对聊天机器人产生病态依赖，而AI如果总是迎合用户，反而会进一步加剧风险。

Anthropic的AI安全研究员SamuelMarks也批评xAI拒绝公开安全评估报告，称此举“鲁莽”。他表示：“Anthropic、OpenAI和谷歌在这方面都不完美，但至少他们在上线前会做一些评估并记录结果，而xAI则完全没有。”

目前，外界根本无法判断xAI是否对Grok4进行过系统测试。在论坛LessWrong上，有匿名研究者发帖称，Grok4“几乎没有任何实质性的安全防护机制”，他们的测试结果让人忧心。

xAI的安全顾问、AI安全中心主任DanHendrycks在X上表示，公司已对Grok4进行过“危险能力评估”，但并未公布任何评估结果。

曾在OpenAI领导安全团队、现为独立研究员的StevenAdler对TechCrunch表示：“如果连最基本的安全实践都不能在行业内得到执行，比如公布危险能力评估的结果，那我确实感到担忧。**和公众有权了解AI公司是如何应对这些强大系统所带来的风险的。”

马斯克本人长期以来就是AI安全的高调倡导者。他多次警告高级AI可能带来灾难性后果，也曾公开支持“开放透明”的开发方式。

但眼下多个研究团队认为xAI的行为正背离这些理念，在发布模型的安全流程上已偏离行业常规。讽刺的是，这些做法反而可能促使州议会和联邦**更快推动相关立法，要求AI公司强制披露安全报告。

多位研究者指出，AI安全和对齐测试不仅是为了防止极端风险，也是为了防范眼下模型行为失常的问题。

上一篇: 美国解禁H20芯片深层原因白宫AI主管：打压华为

7月17日消息，近日NVIDIA宣布，随着美国出口管制的放宽，其H20AI芯片将重新进入中国市场，不过这一决定背后的原因远不止中美贸易协议那么简单。据美国白宫AI主管大卫·萨克斯（D

下一篇: 英伟达黄仁勋：人工智能下一个浪潮是物理AI

黄仁勋表示，人工智能的下个浪潮是物理AI——PhysicAI，人工智能是一种新的做软件方式，根据基本原理代替人类编码描述算法来预测结果，我们使用算法来学习如何从实例、信息、数据中预测结果，这种使用