首页 > AI教程资讯

新研究：新技术助力人工智能减少“胡诌”

文章来源：万象ai发布时间：2025-07-08 16:31:18

人工智能（AI）中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日，英国牛津大学研究团队开发出一种名为“语义熵”的新方法，有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”，牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中，熵描述的是系统的混乱或者说不稳定程度。这项研究中，熵衡量了大语言模型回答的不确定性，不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说，如果AI对同一个问题，给出了许多语义相似的答案，那说明它对自己的回答比较有把握；反之，如果答案五花八门，那就意味着AI自己也“心里没底”，很可能是在“胡诌”。

研究人员利用“语义熵”方法，让大语言模型对同一问题生成多个答案，然后将语义相近的答案聚类，最后根据聚类结果计算熵值。熵值越高，表示大语言模型的回答越不确定。

值得注意的是，这一方法不仅考虑了大语言模型回答的字面差异，更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”，而不会被表达方式的多样性所迷惑。

研究结果表明，“语义熵”方法在多个数据集和任务中都表现出色，能有效检测大语言模型的错误回答，并通过拒绝回答不确定的问题来提高整体准确率。更重要的是，这一方法无需修改AI模型本身，可以直接应用于现有的大语言模型。

研究人员说，“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用，帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现，也将增强用户对AI系统的信任。

各方热议人工智能产业新趋势

上一篇: 各方热议人工智能产业新趋势

6月26日，2024年上海世界移动通信大会（上海）（2024 MWC上海）开幕。展会以“未来先行”为主题，超过250家赞助商、参展商和合作商共同探讨5G、人工智能、数智制造等技术和产业发展趋势。人工智能成为本次展会上

2024年“AI+出行”行业研究报告

下一篇: 2024年“AI+出行”行业研究报告

2024年6月16日，小鹏汇天旅航者X2在北京大兴国际机场临空经济区一飞冲天，成功完成了京津冀地区的首次载人低空飞行。这一里程碑事件，不仅标志着飞行汽车技术的重大突破，更预示着“AI+出行”新时代的到来。在智能

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08