首页 > AI教程资讯

人工智能时代警惕“智能体风险”

文章来源：万象ai发布时间：2025-07-08 11:24:32

据新华社报道，专家认为，人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手，规范智能体行为，从而更好地预防智能体失控。

智能体是人工智能（AI）领域中的一个重要概念，是指能够自主感知环境、做出决策并执行行动的智能实体，它可以是一个程序、一个系统或是一个机器人。

智能体的核心是人工智能算法，包括机器学习、深度学习、强化学习、神经网络等技术。通过这些算法，智能体可以从大量数据中学习并改进自身的性能，不断优化自己的决策和行为。智能体还可根据环境变化做出灵活的调整，适应不同的场景和任务。

学界认为，智能体一般具有以下三大特质：

第一，可根据目标独立采取行动，即自主决策。并独立采取行动实现该目标。

第二，可与外部世界互动，自如地使用不同的软件工具。比如基于GPT-4的智能体Auto-GPT，可以自主地在网络上搜索相关信息，并根据用户的需求自动编写代码和管理业务。

第三，可无限期地运行。美国哈佛大学法学院教授乔纳森·齐特雷恩近期发表的《是时候控制AI智能体》一文指出，智能体允许人类操作员“设置后便不再操心”。

以GPT为代表的大语言模型（LLM）的出现，标志着智能体进入批量化生产时代。此前，智能体需靠专业的计算机科学人员历经多轮研发测试，现在依靠大语言模型就可迅速将特定目标转化为程序代码，生成各式各样的智能体。而兼具文字、图片、视频生成和理解能力的多模态大模型，也为智能体的发展创造了有利条件，使它们可以利用计算机视觉“看见”虚拟或现实的三维世界，这对于人工智能非玩家角色和机器人研发都尤为重要。

由于目前并无有效的智能体退出机制，一些智能体被创造出后可能无法被关闭。

你会把健康交给人工智能吗？

上一篇: 你会把健康交给人工智能吗？

美国《大西洋月刊》7月12日文章，原题：你会把健康交给人工智能吗？日前OpenAI首席执行官萨姆·奥尔特曼和企业家阿里安娜·赫芬顿与我的同事查理·沃泽尔谈到了他们用生成式人工智能（AI）重塑美国医疗体系的雄心。

AI驱动教育改革 2024人工智能与教育发展大会在青举行

下一篇: AI驱动教育改革 2024人工智能与教育发展大会在青举行

2024人工智能与教育发展大会在青举行在数字化和智能化的崭新时代，人工智能正深刻地影响着教育的面貌。7月16日-17日，2024人工智能与教育发展大会在青举行，主题为“新智能新学习新未来——人工智能下的教育

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08