首页 科技 > 正文

新基准测试运行人工智能模型的速度

一个名为 MLCommons 的人工智能基准小组周一公布了新测试的结果,这些测试确定了顶级硬件运行人工智能模型的速度。

Nvidia 公司的芯片在大型语言模型测试中表现最好,英特尔公司生产的半导体紧随其后。

新的 MLPerf 基准测试基于一个包含 60 亿个参数的大型语言模型,该模型总结了 CNN 新闻文章。该基准测试模拟人工智能数据处理的“推理”部分,为生成人工智能工具背后的软件提供动力。

Nvidia 提交的推理基准测试排名靠前的是其八款旗舰 H100 芯片。英伟达在人工智能模型训练市场占据主导地位,但尚未占领推理市场。

Nvidia 加速计算营销总监戴夫·萨尔瓦托 (Dave Salvator) 表示:“你所看到的是,我们正在全面提供领先的绩效,并且在所有工作负载上再次提供领先的绩效。”

英特尔的成功基于该公司 2019 年收购的 Habana 部门生产的 Gaudi2 芯片。Gaudi2 系统比 Nvidia 的系统慢大约 10%。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。