文章来源:08AI导航发布时间:2025-07-11 15:28:05
l 基础设施1.0:Wintel时代
90年代的商业互联网由x86指令集,标准化操作系统,关系数据库,以太网以及网络数据存储组成。亚马逊,eBay,雅虎,甚至谷歌最早的迭代都建立在这个基础设施1.0的骨干上。
l 基础设施2.0:云计算时代
随着网络的成熟,互联网用户从1995年的1600万到如今到超过40亿,应用程序的规模和性能要求发生了变化。Google,Facebook和亚马逊等一批优秀的科技企业定义了一个新的基础架构类别,它是可扩展的,可编程的开源(大部分)的和商业化的。Linux,KVM,Xen,Docker,Kubernetes,Mesos, Hadoop,Spark等等技术定义了云时代。这种转变描述为基础设施2.0。最终,这一代技术专门用于将互联网扩展到数十亿最终用户,并有效存储从这些用户获取的信息。基础设施2.0的创新催化了数据增长的急剧增长。
l 基础设施3.0:走向智能系统
基础设施2.0最终关心的问题是“如何连接世界”,新一代人工智能技术关注的重点变成了“如何认知理解世界”。
这种连接与认知的区别,使得机器学习与人工智能与前几代的软件逻辑截然不同。编码认知的计算挑战是它颠倒了经典的编程范例。在传统应用中,逻辑是机器通过完成人的手动编码来执行特定的任务,而在机器学习与人工智能中,则是机器自己通过训练算法从数据库推断逻辑,然后执行这个逻辑来做出有关世界的决定和预测。
这种“聪明”的应用程序,背后是海量的数据和指数级的计算力需求。海量的数据正以前所未有的速度和⽅式产生和储存,数据不再是问题;算法经历了数⼗年的发展,在深度学习和加速计算出现之后,得到了迅速的发展和优化,以最新的GPT3语⾔模型为例,该模型包含了1750亿个参数,在NLP领域取得突破性进展的同时,给算⼒也提出了巨⼤的挑战。
随着摩尔定律失效,CPU的物理⼯艺和核⼼数已接近极限,由CPU提供算⼒的传统服务器很难满⾜这种密集型计算的需求。机器学习和人工智能代表了一个基本的新架构,需要重新思考基础架构,工具和开发实践。人工智能需要专属的基础机构进行承载和支撑,AI服务器应运而生。

高速IO性能:AI训练中加速卡间需要大量的参数通信,模型越复杂,通信量越大,所以AI服务器对多卡间的通讯性能要求非常高。例如高速互联方面,momo采用PCI3.0协议最大P2P带宽达到32GB/s,采用NVLink 高速互联技术,双向总带宽可以达到300GB/s

超强扩展能力:分布式计算框架,用于训练和推理,可以在多个节点之间高效地扩展模型操作。
封装整个机器学习和人工智能工作流程的端到端平台,从最终用户中抽象出复杂性。
设计独特:AI服务器内置多个加速卡和内存,需要针对性的对于系统结构、散热、拓扑等进行设计,才能满足长期稳定运行的要求。
相关攻略 更多
最新资讯 更多
2025年了,AI还看不懂时钟,90%人都能答对,顶尖AI全军覆没
更新时间:2025-10-14
光刻机龙头或领投“欧洲OpenAI”
更新时间:2025-10-14
华人缔造商业传奇,全球第一家突破百亿美金的AI编程企业诞生
更新时间:2025-10-14
具身智能进家干活,先从“AI家电”抓起?
更新时间:2025-10-14
前零一万物联创戴宗宏创业:20人团队,能干上百人的AI定制项目
更新时间:2025-10-14
阿里端出最强语音模型,英文rap精准转文字,准确率干翻全球
更新时间:2025-10-14
小扎「梦之队」首批论文上线,LLM自举进化,单步性能狂飙22%
更新时间:2025-10-14
再也不怕面瘫脸,YouTube黑科技:AI帮你「永久微笑」,连僵尸都咧嘴笑
更新时间:2025-10-14
2025年全球企业级AI Agent优秀厂商有哪些?
更新时间:2025-10-14
GPT-5 为啥不 “胡说” 了?OpenAI 新论文讲透了
更新时间:2025-10-14