Intel Vision 2024大会

近日，英特尔举办了面向客户和合作伙伴的英特尔on产业创新大会，宣布了英特尔®至强®6处理器的全新品牌，推出英特尔Gaudi 3加速器。

英特尔Gaudi 3 AI加速器将为AI系统提供动力，该AI系统可通过以太网的通用标准连接多达数万个加速器。

与上一代产品相比，英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升，以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型，以及1750亿参数GPT-3模型的训练时间。此外，在Llama 7B、70B和Falcon 180B大型语言模型（LLM）的推理吞吐量和能效方面也展现了出色性能。

责编：聚观365

此内容归聚观365整编发布，未经聚观365书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。