亚马逊推基于ARM服务器芯片Graviton2

hzp_bbs

亚马逊介绍了两款芯片的进展。去年推出的专注于推理的芯片inferentia提供数百TOPS（每秒万亿次运算）推理吞吐量，以允许复杂模型能够进行快速预测。对于更复杂的性能需求，可以组合使用多个AWS Inferentia芯片来支持数千TOPS的吞吐量。1 S2 o( ^- ~/ g! H8 _8 T- W
7 t' n7 ?& s: z$ O' O
/ N' A* q& `, J+ j. ?, v6 F
' J/ A9 e' @2 b此外，亚马逊推出新一代ARM服务器芯片Graviton2。据介绍，AWS Graviton 2处理器的速度比以前一代的芯片快7倍，浮点性能是2倍。AWS进一步表示，Graviton2芯片的单核高速缓存是其两倍大，并具有额外的存储通道，并且这些功能一起使Graviton2的存储速度比原始Graviton快5倍。资料显示，Graviton2是一个基于Arm全新内核Neoverse 定制设计的7nm SOC，具有64个Arm Neoverse N1内核（每个64KB L1 / 1MB L2高速缓存），支持双SIMD，并支持int8和fp16处理的特殊指令。
2 D) r) B9 t4 c9 y4 R