“AI教父”辛顿首次访华演讲：要像养虎一样把AI训练好，让它不“杀”你

文章来源：万象ai发布时间：2025-07-28 11:48:51

7月26日消息，2025世界人工智能大会今起在上海举行，“AI教父”、2024年诺奖得主、2018年图灵奖得主杰弗里・辛顿首次到访中国，并出席演讲。

辛顿在演讲中直言，几乎所有专家都认为会出现比人类更智能的AI，AI智能体为完成任务就会想要生存、获得更多控制，可能操纵人类。简单关闭AI并不现实，这就像养老虎当宠物一样，把它养大了，人类反而可能被其伤害。

“如果一直养这个宠物，那么你要确保它长大的时候，它不会把你给杀掉。”其认为，人类现在所处的情况就像养了一只非常可爱的小虎，我们只有两个选择：第一，把它训练好，让它不来杀你；第二，把它干掉。

如果人类想要确保自身的生存，就必须找到一个训练AI的办法，使其不要消灭人类。各国不会在防御人工智能的危险用途上进行合作，譬如网络攻击、致命自主武器、用于操纵公众意见的虚假视频。因为他们的利益不一致。

从辛顿的演讲中获悉，当下的局面是没有一个国家希望AI统治世界，若有国家能够找到防止AI操纵世界的办法，那么它将肯定很乐意与其他国家分享。

上一篇: Bill Inmon：为什么你的数据湖需要的是 BLM，而不是 LLM

当你尝试使用文本生成AI解决结构化数据问题时，你投资的数据湖就变成了‘污水池’。