英特尔发布Gaudi 3:挑战英伟达H100,Q2向OEM厂商出货

科技动态 2024-04-10 10:14 阅读:

美国时间4月9日,英特尔举办了一场面向客户和合作伙伴的产业创新大会,意外之处在于他们首次介绍了GPU产品Gaudi 3,直接挑战英伟达的H100。据介绍,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升,可大幅缩短模型训练时间,提高推理吞吐量。

在GPU产品中,网络连接也是一个关键重点。英特尔Gaudi 3采用以太网网络,支持企业从单个节点扩展到数千个节点的集群,超级集群和超大集群,为大规模的推理、微调和训练提供支持。预计英特尔Gaudi 3将于2024年第二季度向OEM厂商出货,包括戴尔、HPE、联想和Supermicro在内。

除了GPU产品,英特尔还发布了新的至强6处理器,其中Sierra Forest配备能效核,每瓦性能提高2.4倍,机架密度提高2.7倍,Granite Rapids配备性能核,可将token的延迟时间最多缩短6.5倍,能够运行700亿参数的Llama-2模型。这些处理器将在2024年第二季度推出。

英特尔还宣布与多家企业合作,为企业AI创建一个开放平台,通过检索增强生成(RAG),让企业用户更容易部署生成式AI。此外,英特尔还更新了端侧产品的更新节奏,包括即将推出的英特尔酷睿Ultra客户端处理器家族(代号Lunar Lake)和全新边缘芯片,面向零售、工业制造和医疗等关键领域。

英特尔公司首席执行官帕特·基辛格表示,英特尔正在让AI技术走进千行百业,最新的Gaudi、至强和酷睿平台将提供灵活的、可定制化的解决方案,满足客户和合作伙伴的需求,抓住未来的机遇。他在发布会上留下的一句话,“我们即将再次改变世界”,也让人对英特尔未来的发展充满期待。