文章来源:08AI导航发布时间:2025-01-27 14:06:05

你可能听说过大型语言模型,即能生成类人文本的人工智能系统。但是小型语言模型呢?研究人员正在努力研发更小型、更紧凑的人工智能系统,以解决人工智能系统对数据日益增长的需求所带来的一系列挑战。而且,不只是如今新闻报道中的生成式人工智能模型需要变得更小,那些能够运营工业设施、智慧城市或自动驾驶汽车的人工智能系统也需要如此。
大型人工智能模型面临的挑战
当你使用人工智能(无论是在手机还是笔记本电脑上)时,大部分实际计算都发生在数据中心。这是因为最流行的人工智能模型在计算上非常耗费资源——你的笔记本电脑可能没有足够的计算能力来运行查询。这些人工智能系统还会消耗大量能源。据说,在生成式人工智能模型中进行一次查询(例如问“生成式人工智能是如何工作的?”这样一个问题)所消耗的电量相当于一个灯泡点亮一小时的电量。
这给人工智能的使用带来了两个挑战。首先,这引发了人们对人工智能可持续性的担忧,因为为人工智能供电的电力也会增加温室气体排放。
在最近一项针对全球技术领导者的调查“TheImpact of Technology in 2025 and Beyond: an IEEE Global Study”中,35%的人表示人工智能的实用性远远超过其能耗,而34%的人表示人工智能的能耗和实用性处于良好的平衡状态。大约五分之一(21%)的人认为人工智能的益处是显著的,但高能耗仍然是一个问题,而8%的人认为大量的能耗超过了人工智能的益处。
其次,这意味着任何依赖人工智能的事物要么需要更多的电力来运行,要么需要连接到数据中心。
削减人工智能规模的前沿技术正在取得一些成功。IEEE会员Jay Shah表示:“这些(技术)耗电量显著降低,通常在瓦特范围内运行,而不是大型数据中心系统消耗的千瓦或兆瓦。”
谁需要紧凑型人工智能?
更小、更节能的人工智能系统可以用于多种应用,比如自动驾驶汽车。
Shah说:“就长期可靠性和降低功耗而言,下一代低功耗人工智能加速器对自动驾驶汽车的未来至关重要。它们能够实现实时决策并实现更紧凑的设计。”
同时,它们对机器人系统来说也是个福音,因为它们将降低机器人的电力需求。
IEEE高级会员Cristiane Agra Pimentel表示,紧凑型人工智能系统在工业环境中也将很有用,在这种环境中,更小的控制系统可以使工厂流程自动化。
Pimentel说:“在工业领域使用紧凑型人工智能将越来越适用于机器操作控制、产品追溯控制和供应链系统管理。”
小型人工智能存在权衡取舍
大型语言模型通常适用于多种用途。它们可以协助撰写大学论文,还能帮你构建网站。紧凑型系统可以针对特定系统进行优化。它们可以被设计成公司的聊天机器人或者自动补全计算机代码。
但是,紧凑型人工智能系统目前准确性较低,因为它们通常使用较少的数据。
Shah表示:“考虑到低功耗、更快的推理时间以及在边缘设备上运行人工智能的能力等好处,这些权衡通常是可以接受的。研究人员和开发人员会继续努力提高紧凑型人工智能系统的准确性,同时保持其效率优势。”
相关攻略 更多
最新资讯 更多
2025年了,AI还看不懂时钟,90%人都能答对,顶尖AI全军覆没
更新时间:2025-10-14
光刻机龙头或领投“欧洲OpenAI”
更新时间:2025-10-14
华人缔造商业传奇,全球第一家突破百亿美金的AI编程企业诞生
更新时间:2025-10-14
具身智能进家干活,先从“AI家电”抓起?
更新时间:2025-10-14
前零一万物联创戴宗宏创业:20人团队,能干上百人的AI定制项目
更新时间:2025-10-14
阿里端出最强语音模型,英文rap精准转文字,准确率干翻全球
更新时间:2025-10-14
小扎「梦之队」首批论文上线,LLM自举进化,单步性能狂飙22%
更新时间:2025-10-14
再也不怕面瘫脸,YouTube黑科技:AI帮你「永久微笑」,连僵尸都咧嘴笑
更新时间:2025-10-14
2025年全球企业级AI Agent优秀厂商有哪些?
更新时间:2025-10-14
GPT-5 为啥不 “胡说” 了?OpenAI 新论文讲透了
更新时间:2025-10-14