News

DeepSeek选华为对美国是个可怕的结果?现在我信黄仁勋了

1 min read
AI 领域现在最缺什么?算力,一定是算力。 在国内,算力几乎是制约几家大模型厂商发展的最重要的环节。训练需要算力,国产大模型都陆续迈进几万亿的参数了;模型练好了有了用户,越好的模型用户越多,越需要算力,算力跟不上,体验就变差。 高端的英伟达算力卡不卖给我们,低端的也要多花钱、排队来。 所以国产算力卡即使不如英伟达的那么好用成熟,国内的大模型也不敢一根筋的吊在英伟达身上,华为昇腾、寒武纪、壁仞都在国产算力上有自己的一席之地。 要说现在算力领域最时髦的词儿,一定是 “ 超节点( SuperPod ) ”。在国产显卡领域,这个词儿并不让人陌生,但这种形态的产品其实是英伟达第一个做出来的。 早在 2019 年以前,虽然那时候还没有大模型,但语音识别、图像识别之类的服务,也已经催生了大算力的需求了。单卡能力有限,人们很容易就想到把多张显卡拼起来的方式获得更大算力。 人们以为用 100 张卡拼在一起能得到 100 张卡的算力,结果能用出来 3 - 4 成就不错了。究其原因,粗暴的把这些卡连在一起,但通信协议带宽差,数据流通起来太差,另一个是各家攒起来的服务器没有标准化,模块适配度和稳定性也差。 所以英伟达推出了一套 自研 NVLink 高速互联协议、再加上 InfiniBand 组网、给服务器里适配专属硬件和软件 。 16 张 V100 GPU 拼成了一个超节点,最多把 96 台超节点服务器里的 1536 张卡通过组网互拼,这种显卡打包套装就是超节点集群( SuperPOD )。 业内说英伟达把原来的显卡利用率从 4 成提升至了 8 成,而且因为整体性很高,企业几乎开箱即用,有效算力高,所