强大算力保证 AI 计算加速度,英特尔面向中国市场推出 Gaudi2 处理器

35小吃技术网 推荐阅读 2023年09月25日22时03分34秒 86 0

7月11日,英特尔AI产品战略暨新品发布会召开网。 会上,英特尔正式推出面向中国市场的第二代Gaudi深度学习加速器。 作为英特尔云到端产品组合的重要组成部分,致力于以领先的性价比优势加速AI训练和推理。 该产品的推出也为近期火热的大机型市场带来了新的选择。

深度学习加速器及夹层卡HL-225B基于第一代Gaudi高性能架构,全面提升计算性能和能效比。 据介绍,它拥有24个可编程处理器核心、21个以太网接口、96GB HBM2E内存容量、2.4TB/秒总内存带宽、48MB片上SRAM和集成多媒体处理引擎。

具体性能方面,该加速器在6月份发布的基准测试中获得了认证。 根据测试结果,在GPT-3模型、计算机视觉模型-50(使用8个加速器)、(使用8个加速器)、自然语言处理模型BERT(使用8个和64个加速器)进行了多次测试,测试结果优异结果。 目前据称AI和LLM的计算需求需要大规模扩展,测试体现出在可扩展性、能效比、易用性等方面的优势。

此外,它还支持英特尔专门针对Gaudi平台上的深度学习训练和推理而优化的软件套件。网

在最近的Face评测中,在大规模推理(包括运行70亿和1760亿参数模型)方面的表现仍然保持行业领先。

强大算力保证 AI 计算加速度,英特尔面向中国市场推出 Gaudi2 处理器-第1张图片

强大算力保证 AI 计算加速度,英特尔面向中国市场推出 Gaudi2 处理器-第2张图片

针对中国市场,英特尔与浪潮信息联合打造并网推出了基于深度学习加速器的浪潮信息AI服务器。 该产品集成了 8 个加速卡 HL-225B,并包含双第四代 Intel Xeon 可扩展处理器。

面对中国广阔的人工智能市场,英特尔执行副总裁兼数据中心与人工智能事业部总经理指​​出:“英特尔致力于通过为客户提供广泛的硬件选择和支持来加速人工智能技术的发展。凭借包括至强可扩展处理器和深度学习加速器在内的产品组合,英特尔正在降低人工智能的进入门槛,并使客户能够在云中、跨网络和智能边缘部署这项关键业务技术,帮助建设中国人工智能的未来。”

广告声明:文章中包含的外部跳转链接(包括但不限于超链接、二维码、密码等)用于传达更多信息,节省选择时间。 结果仅供参考。 IT之家的所有文章均包含此声明。