首页 > AI教程资讯

摩尔线程：MUSA成功适配llama.cpp，直通全球AI生态圈

文章来源：08ai导航网发布时间：2025-08-07 16:47:39

8月6日消息，摩尔线程MUSA架构是MTGPU支持的通用计算架构，摩尔线程刚刚确认llama.cpp已经适配了这种计算架构，“直通全球AI生态圈”。

注：llama.cpp是一个纯C/C++实现的项目，旨在简化大语言模型(LLM)的推理过程，并在多种硬件环境下提供最先进的性能支持，无论是本地部署还是云端运行。其主要目标是以最小的设置和依赖，让用户在广泛的硬件平台上轻松进行LLaMA等大模型的推理。

大语言模型因其出色的自然语言理解和生成能力而迅速被广泛使用，llama.cpp大幅降低了进行大语言模型推理的门槛，能够充分利用硬件的性能来助力用户的大语言模型应用。

llama.cpp支持多种语言模型，包括LLaMA、Mistral、Falcon、Gemma、Qwen、Baichuan、Aquila等主流模型，以及各种多模态模型如LLaVA和MobileVLM，覆盖广泛的推理需求。

摩尔线程MUSA架构是MTGPU支持的通用计算架构，llama.cpp适配了这种计算架构。在MTTS80/S3000/S4000GPU上，用户可以通过llama.cpp官方提供的一系列容器镜像来使用。

今年4月，MUSASDK升级到了4.0.1版本，支持Intel处理器＋Ubuntu操作系统、海光处理器＋Kylin麒麟操作系统组成的平台。

突破AI行业高质量数据缺乏的瓶颈，Surge AI营收超10亿美元

上一篇: 突破AI行业高质量数据缺乏的瓶颈，Surge AI营收超10亿美元

AI行业对数据的渴求程度，质量大于数量。

相关攻略更多

热门AI工具更多

最新资讯更多

悟空图像

悟空图像

AI工具

更新时间：2025-02-28