大才16GB,显存带宽才32GB,GPU之间的互联技术只支持双卡互联,带宽才区区32GB……这就导致了显存带宽以及容量低,意味着训练效率低,而互联技术只支持双卡,带宽也才32GB,这意味着用户不能用这东西组成几千张显卡的GPU服务器阵列
智云集团,直接就阉割了X系列里作为人工智能算力卡的可能性……要不然,大家都用一两万的X系列显卡训练AI,那么动不动十几万的APO显卡还怎么卖?
同样的,APO系列显卡和AI系列也存在同样的差距
最新版本的APO4600显卡,和智云集团内部使用的AI5500显卡都是基于十二纳米工艺的芯片,晶体管数量其实都差不多,都是两百多一个晶体管,处理单元数量也类似
(前文多次出现了AI4500,这是写混了,这两个其实是同一种东西都是采用十二纳米工艺的芯片,后续统一为AI5500)
但是这两者的差异却是巨大的,主要体现在显存容量,显存带宽,GPU之间的互联带宽以及特殊生态支持上
APO4600显卡,内存容量从之前上一代的24GB提升到了32GB,内存带宽提升到800GB,互联带宽则是提升到了
而自用的AI5500显卡,内存容量是80GB,内存带宽是1.6TB,互联带宽是
这三个关键数据最终体现到人工智能训练上,训练效率就会出现比较大的差异,并且这种差异在支持大规模人工智能训练的时候,会体现的越来越大
因为大规模人工智能训练,比如YunAI这种超大规模的生成式AI训练,可不是一台两台服务器就能搞定的,需要的是好几万甚至更多显卡组成的GPU服务器阵列来进行训练
而数量越多的GPU组合到一起,其对内存带宽,互联带宽的要求就越高……要不然的话,算力是够用了,但是数据堵塞也没用
以上这些是硬件上的巨大差异,除了硬件问题外,还有软件生态上的巨大差异
AI系列显卡,为了适配智云集团自家的人工智能底层算法,从最早期的AI系列开始,就有着众多专门的模块,不仅仅芯片是专门开发的,就连研发支持软件都是专门适配开发的
AI芯片,天生就是为了智云集团自家的人工智能底层算法而生……它本身就不支持外头一大堆的各种乱七八糟的人工智能算法
其他公司要是拿过来,先不说都没办法用,就算想办法给用上了,其实性能表现也不会比APO显卡好多少
智云集团里的APO显卡和AI显卡,两者间的关系,有点类似智云集团旗下的智能终端SOC,S系列是专门优化设计的自用芯片,里面的很多核心模块都是智云手机才
点击读下一页,继续阅读 雨天下雨 作品《重生08:从山寨机开始崛起》第四百三十二章 最好的打压就是倾销