北京2024年9月18日 /美通社/ -- 亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。亚马逊云科技是首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,GPU内存宽带提升1.5倍。Amazon EC2 P5e非常适用于复杂的大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,用于支持最苛刻和计算密集型的生成式AI应用,如问答、代码生成、视频和图像生成、语音识别等。
Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供 3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。Amazon EC2 P5e实例具有的更高的内存带宽、更大的GPU内存容量和对更大的batch sizes的支持,从而显著提升客户工作负载的性能、降低成本并简化运营。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。
-
大咖齐聚智能绿色照明论坛,释放了哪些信号?随着能源转型进程的加速以及环境治理需求的不断提升,科技的迅猛发展极大地影响着各个产业领域的发展轨迹。在这样的时代背景下,绿色照明和智能照明技术的融合2024-09-21
-
数字贸易时代,全民如何参与并获得数字经济红利 随着全球数字经济的迅猛发展,数字贸易已经成为当今世界经济增长的主要驱动力之一。数字化进程不仅带来了新的商业模式,还为普通民众提供了更多参与全球经济的2024-09-21
-
喜迎国庆佳节,中网智媒智语机器人岗位部署联调圆满完成,助力内容创作智能化喜迎国庆佳节,中网智媒智语机器人岗位部署联调圆满完成,助力内容创作智能化,共庆祖国华诞! 随着人工智能技术的不断进步,中网智媒在智能机器人领域再次取得重大突破。2024-09-21
-
三雄极光地铁照明再下一城!这次是沈阳!今年中秋假期,沈阳旅游市场的热度实现了环比56%的显著增长,相信即将来临的国庆假期继续热辣滚烫!作为旅游热门地,沈阳地铁二号线南延线一路穿越众多景区,如沈阳最2024-09-21
-
京浦尚福:引领电商新时代,创造消费新体验随着中国电商行业的蓬勃发展,越来越多的消费者在网上购买日常所需的产品,享受着便捷和高效的购物体验。然而,消费者对于电商平台的期望不仅停留在价格优惠和方便购买2024-09-21