AWS 的新服务器处理器可以将 AI 模型的训练速度提高四倍

科技 编辑:
导读 Amazon 宣布开发新处理器 Graviton4 和 Trainium2,用于 AWS 专属工作,重点关注速度和性能。Graviton4 是最强大的 AWS 处理器,...

Amazon 宣布开发新处理器 Graviton4 和 Trainium2,用于 AWS 专属工作,重点关注速度和性能。

Graviton4 是最强大的 AWS 处理器,与前代产品相比,计算性能提高了 30%,内存带宽增加了 75%。

Trainium2处理器专为人工智能训练而设计,速度比竞争对手快四倍,内存容量增加三倍,能效提高。

随着 Amazon Web Services (AWS) 的不断发展,Amazon 的产品线也在不断扩大。现在,该公司宣布开发出两款新处理器,将供AWS使用。虽然其中一个是为通用工作而创建的,但另一个是为了人工智能训练而创建的——亚马逊指出,速度是游戏的名称。

11 月 28 日,亚马逊宣布开发两款新芯片——AWS Graviton4 和 AWS Trainium2——用于 AWS 独家工作。该公司表示,Graviton4 是目前其产品线中最强大的 AWS 处理器,能够将计算性能提高高达 30%。它还具有比 Graviton3 处理器多 75% 的内存带宽,并且将在 Amazon EC2 R8g 实例中提供 - 这可以帮助完成涉及高性能数据库以及大型数据分析工作负载的任务。Tom's Hardware指定 Graviton4 采用 Arm 的 位架构并包含 96 个内核。不过,亚马逊并未提及该芯片是否专门使用Arm的Neoverse V2内核。

亚马逊的Trainium2处理器是专门为人工智能训练而开发的,该公司表示它的速度是竞争对手的四倍。它的内存容量是其前身的三倍,每瓦性能可提高两倍,从而显着提高能源效率。亚马逊指出,使用该处理器的机器将通过 AWS Elastic Fabric Adapter(一种用于高性能计算的网络接口)进行连接,并提供拍比特级性能。Trainium2 的创建是为了减少与基础模型和大型语言模型相关的训练时间,这可能需要几个月的时间。

标签:
免责声明:本文由用户上传,如有侵权请联系删除!