在OpenAI大火的前几年,英伟达也是靠着算力叙事大赚特赚,超过微软拿到了市值第一的位置。在被deepseek冲击半年后的今天,英伟达总算是从这股余波中恢复了过来。可就在前些日子,OpenAI忽然曝出不再选择英伟达提供的芯片,而是准备采购谷歌的TPU芯片。



从目前行业主流的情况来看,英伟达的GPU长期以来都是AI训练和推理的主流选择。其Blackwell架构的B200芯片虽然价格昂贵,但由于性能强大,因此供货一直处在紧张状态。像配备8颗B200的DGX B200服务器,其售价就高达50万美元,可就是这样的价格,也仍旧是被预订一空。


而相比之下,谷歌的TPU芯片在价格上会更有优势。例如TPUv5p的售价就只有数千美元,也算是为AI大厂提供了更具性价比的选择。



谷歌的TPU芯片设计初衷就是针对AI任务进行优化,特别是张量运算。其脉动阵列架构通过流水线式数据流处理矩阵乘法,能够显著降低数据移动和内存访问的延迟。这种高度特化的设计,使得TPU在推理任务中表现十分优异,尤其适合当前AI应用对推理算力的需求。



在此只前,OpenAI的服务器长期依赖英伟达的GPU,主要原因也是因为其强大的并行计算能力和成熟的CUDA生态。然而对于OpenAI而言,他们在图形渲染方面的能力并无实际需求,他们真正需要的是高效的并行计算能力,因此TPU这种高度特化的芯片反而更符合其需求。



此外,开源模型的兴起和AI创业公司的转型,也促使算力需求从训练转向推理。TPU在推理任务中的混合精度支持,也使其成为提供推理算力的理想选择。OpenAI的这一调整,不仅是对成本和供应的考量,也算是目前市场对这方面的一个共识。

点赞(67)

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部