首個AI GPU晶片真實差距對比報告！NVIDIA遙遙領先 華為遠超AMD

快科技8月17日消息，當下，幾乎所有軟體巨頭們都在大力投入AI推理業務。近日，大摩（摩根史坦利）的一份重磅報道顯示，AI推理原來是一門利潤驚人的生意。而選擇不同的AI GPU晶片，利潤率也差距非常大。

但總體來看，一座標準的「AI推理工廠」，無論採用哪家巨頭的晶片，其平均利潤率普遍超過50%。

據悉，摩根史坦利首創了一套標準化分析框架，即「100MW AI工廠模型」，將不同技術路徑的AI解決方案，置於同一商業維度下進行量化評估。

毫無懸念，NVIDIA的GB200 NVL72以近78%的利潤率遙遙領先。據悉，這主要得益於其領先的計算性能以及CUDA軟體生態的深厚壁壘，展現出了絕對的市場一哥的統治力。

谷歌自研的TPU v6e pod以74.9%的利潤率排名第二，AWS（亞馬遜雲）的Trn2 UltraServer取得了62.5%的利潤率，而華為的昇騰CloudMatrix 384平台也取得了47.9%的利潤率。

AMD的MI300X和MI355X意外遭遇滑鐵盧，利潤率竟然為負，分別為-28.2%和-64%。

報告指出，雖然AMD前期投入很大，但其token產出效率所能創造的收入，遠不足以覆蓋其高昂的成本。