首页 企业 > 正文

Nvidia在运行LLM的新AI基准中名列前茅

人工智能基准组织MLCommons发布了评估高端硬件运行人工智能模型速度的测试结果。

在这些测试中,英伟达公司开发的芯片表现最佳,紧随其后的是英特尔公司的半导体。

新的基准测试名为MLPerf,重点关注具有 60 亿个参数的大型语言模型,该模型专为总结新闻文章而设计。该基准评估人工智能处理的“推理”阶段,这对于生成人工智能应用至关重要。

Nvidia 在推理基准测试中的领先提交使用了八个旗舰 H100 芯片。虽然英伟达在人工智能模型训练市场占据主导地位,但尚未在推理市场占据重要份额。

Nvidia 加速计算营销总监 Dave Salvator 强调了他们在各种工作负载中的领先表现,凸显了他们的整体实力。

英特尔在基准测试中的成功归功于其 Gaudi2 芯片,该芯片由该公司 2019 年收购的 Habana 部门开发。英特尔的 Gaudi2 系统比 Nvidia 的系统慢约 10%。

Habana 首席运营官 Eitan Medina 对推理结果表示自豪,并强调 Gaudi2 的性价比优势。英特尔声称,与Nvidia的系统相比,其系统的价格具有竞争力,大致相当于Nvidia上一代100系统的成本,但没有透露具体的芯片成本。

英伟达和英特尔均拒绝透露各自芯片的具体定价。Nvidia 还宣布计划发布软件升级,旨在将 MLPerf 基准测试的性能提高一倍。

Alphabet 旗下的谷歌部门预览了其最新定制芯片的性能,该芯片最初是在 8 月份的云计算会议上宣布的。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。