AWS G4旨在减少GPU功率AI推论的成本

发布时间：2021-11-10 13:23 所属栏目：40 来源：互联网

导读：亚马逊Web服务（AWS）公共云似乎已经削弱了其主要竞争对手，并引入了名为G4的新GPU（图形处理单元）EC2实例，该实例使用NVIDA V100 GPU。 AWS表示，新的G4实例旨在帮助加速机器学习推断和图形 - 密集型工作负载，这两者都是计算要求从额外的GPU加速度受益的任

亚马逊Web服务（AWS）公共云似乎已经削弱了其主要竞争对手，并引入了名为G4的新GPU（图形处理单元）EC2实例，该实例使用NVIDA V100 GPU。

AWS表示，新的G4实例旨在帮助加速机器学习推断和图形 - 密集型工作负载，这两者都是计算要求从额外的GPU加速度受益的任务。应用领域包括将元数据添加到图像，对象检测，推荐系统，自动语音识别和语言翻译。

AWS表示，G4实例可以用于训练人工智能（AI）算法，并为AI供电的应用运行推理引擎。它称GPU使其客户能够将机器学习培训从天到几小时减少，但AI中的实际成本正在运行AI算法。

“推论是实际占绝大多数机器学习的成本，”它说。“根据客户，机器学习推断可以代表运行机器学习工作负载的总体运营成本的高达90％。”

（编辑：ASP站长网）