新闻
OpenAI Astra用了10万张NVIDIA显卡:需100亿美元费用 国产大模型太难追了
1 分钟阅读
快科技9月5日消息,这几天Anthropic及OpenAI分别发布了Fable 5.1及Astra大模型,后者凭借更具性价比的优势刷屏了,但它作为新一代大模型,烧钱的能力让国产大模型很难追。 Astra大模型具体的规格参数是没有公开的,但美国媒体报道称它使用了OpenAI的StarGate计划中的超过10万张NVIDIA显卡来训练的。 光这一个数字就注定了Astra大模型的研发费用不菲,让OpenAI自己的大模型算了下,10万张显卡如果是NVIDIA的B200,那成本就要60亿美元去了,一张显卡售价在5-8万美元。 GPU显卡的价格还不是AI数据中心的全部成本, 服务器、网络、电力、散热及研发等费用算上,这样一套AI基建成本在100-250亿美元。 哪怕是保守估计也要100亿美元起步,这个门槛对国内大部分大模型公司来说太高了,这两天最大的一个新闻才是DeepSeek要在内蒙建设一个AI数据中心,采购16万张华为AI显卡,投资额高达25.6亿美元。 这个投资目前还是分批进行的, 但就算按全部费用算也只相当于Astra大模型数据中心投资规模的1/4。 但是再考虑到DeepSeek之前也说过四张华为显卡算力才能顶得上一张NVIDIA高端显卡的算力,那16万张的规模相比OpenAI依然小得多,而且现在还是供应跟不上的状态,因此算力资源上是没法跟OpenAI比的。 之前的数据显示DeepSeek手里也就5万张H20级别的显卡算力,OpenAI这两年采购的算力规模,少说也要20-30万张显卡的规模了, 而且能采购性能顶级的显卡,不缺算力资源,估计比Astra更强的大模型应该也在训练中了。