文章来源:08AI导航发布时间:2025-07-31 11:19:35
7月30日消息,AMDZen5架构的锐龙AIMax+395,是第一个可以在本地运行700亿参数AI大模型的平台,当然需要搭配128GB统一内存,而现在,AMD奉上重磅升级,1280亿参数大模型都可以在本地运行了!
当然,能做到这一点的还是只有锐龙AIMax+395,还是必须搭配128GB统一内存,并分配96GB作为显存,而且必须在Vulkanllama.cpp环境下。
驱动方面需要搭配还在测试阶段的25.10RC24版本,下个月初将会变成正式版25.8.1。
这使得锐龙AIMax+395成为第一个能在本地运行1090亿参数的MetaLlama4Sout大模型的平台,体积多达66GB,活跃参数最多170亿,并支持Vision、MCP。
这得益于该模型使用了混合专家(MoE)模式,每次只激活模型的一部分,从而保持性能可用,锐龙AIMax+395实测可以做到每秒15Tokens。
同时,锐龙AIMax+395还可以跑68GB体积、1230亿参数的MistralLarge,至于18GB、300亿参数的Qwen3A3B、17GB、270亿参数的GoogleGemma,自然更是不在话下。
当然,锐龙AIMax+395还支持各种各样的模型尺寸、量化格式,包括GGUF。
同样重要的是,锐龙AIMax+395升级支持了更大的上下文尺寸,从传统的4096Tokens左右,一举来到了惊人的256000Tokens,从而能够分析、汇总更大规模的文档等数据资料。
不过这里需要注意,得开启FlashAttention、Q8KVCache。
对于一般的非大规模模型,32000Tokens的上下文就足够用了,锐龙AIMax+395则提供了新的可能,而以往如此超大规模的上下文,往往需要几万十几万的设备才能实现。
锐龙AIMax+395、128GB配置的迷你AI工作站,价格已经低至1.3万元左右,可以说性价比是相当高了。
相关攻略 更多
最新资讯 更多
2025年了,AI还看不懂时钟,90%人都能答对,顶尖AI全军覆没
更新时间:2025-10-14
光刻机龙头或领投“欧洲OpenAI”
更新时间:2025-10-14
华人缔造商业传奇,全球第一家突破百亿美金的AI编程企业诞生
更新时间:2025-10-14
具身智能进家干活,先从“AI家电”抓起?
更新时间:2025-10-14
前零一万物联创戴宗宏创业:20人团队,能干上百人的AI定制项目
更新时间:2025-10-14
阿里端出最强语音模型,英文rap精准转文字,准确率干翻全球
更新时间:2025-10-14
小扎「梦之队」首批论文上线,LLM自举进化,单步性能狂飙22%
更新时间:2025-10-14
再也不怕面瘫脸,YouTube黑科技:AI帮你「永久微笑」,连僵尸都咧嘴笑
更新时间:2025-10-14
2025年全球企业级AI Agent优秀厂商有哪些?
更新时间:2025-10-14
GPT-5 为啥不 “胡说” 了?OpenAI 新论文讲透了
更新时间:2025-10-14