在拉斯维加斯正在进行的 AWS re:Invent 大会上，AWS 推出了针对高性能 AI 工作负载的下一代Trainium 和 Graviton 芯片。根据 AWS 的说法，Graviton4 比 Graviton3 提供明显更好的性能、更多的内核和更多的内存带宽。Graviton 是专为云工作负载构建的人工智能芯片系列。

　　第二个芯片 Trainium2 是一款高性能芯片，旨在在 Amazon Elastic Compute Cloud (EC2)  “UltraClusters”中大规模部署100,000 个独立芯片。这些 EC2 Ultracluster 旨在满足使用云的计算能力的可扩展需求。

　　根据GitHub 上的 AWS 官方技术指南，该阵容中之前的芯片也以高效率和高性能为目标。例如，Graviton3E 由针对云原生工作负载优化的可扩展 Arm Neoverse V1 CPU 提供支持。Neoverse V1使用可扩展矢量扩展SVE，使Graviton3E能够适应不同的工作负载。与传统的单指令多数据 (SIMD) 架构相比，SVE 允许处理器在运行时而不是编译时适应不同的向量长度。

　　向量可以被认为是并行处理的元素的集合。传统 SIMD 架构中向量处理指令的一个示例是Intel x86 指令 _mm256_add_ps 指令。该指令适用于固定大小的 256 位向量。或者，使用 SVE，计算中使用的向量的大小是在运行时动态确定的。对于需要较小计算的工作负载，可以使用较小的向量来提高能源效率。因此，AWS 称赞 Graviton 3E 的矢量处理性能提高了 35%，也就不足为奇了。

　　AWS 创建 Graviton4是为了进一步提高 Graviton3E 的性能和可扩展性。Graviton4 由 Arm Neoverse V2 CPU 提供支持，Arm 表示该 CPU 可以使 Graviton3E 中使用的 Neoverse V1 的性能提高一倍。

　　Graviton4还具有增强的安全功能。Neoverse V2 CPU底层采用ArmV9，由于其保密的计算架构，本质上比其前辈更加安全。除了拥有更大的 2 MB 二级缓存外，Graviton4 还实现了分支目标识别 (BTI)，这是底层 Arm CPU 架构的另一个功能。这可以防止由于间接分支而执行不需要的指令，从而增强代码安全性。AWS 表示，Graviton4 的数据库速度提高了 40%，Web 应用程序速度提高了 30%，同时仍然强调安全性和可扩展性。

　　人工智能或机器学习技术最重要的一个方面是训练，即使用一组数据“教授”人工智能的过程。AWS Trainium 专门针对通过云进行高性能训练计算基础设施。

　　Trainium AI 加速器使用AWS NeuronCore 架构，每个加速器具有 32 GB 的带宽内内存，并提供高达 190 TFLOP 的计算能力。NeuronCore 具有用于张量多维数组计算、矢量处理和标量处理的独立引擎。

　　AWS 表示，通过部署在 EC2 UltraCluster 中，Trainium2 的训练基础模型 (FM) 和大型语言模型 (LLM) 的速度比以前快四倍。AWS 还允许访问其他令人垂涎的人工智能芯片，例如 Nvidia GPU。一些 Nvidia 芯片，例如 GH200 Superchips，将可以通过 EC2 服务访问。

相关文章： IGBT是什么意思？什么是 IGBT模块？ IGBT工作原理和作用  Onsemi发布可提高电池续航时间40％的图像传感器  什么是显色指数？led显色指数是多少？显色指数ra和re区别  瑞萨电子公布汽车处理器第五代 R-Car SoC  英飞凌：新型 4.5kV 的IGBT模块可改变传输设计  TDK超声波 ToF 传感器工作距离可达5米  mhz是什么意思？mhz等于多少hz？mhz、khz、ghz换算  具有军用 H 级冲击/振动性能的湿式钽电容器  联想悄然推出了一款运行 Android 系统的商用投影仪  驱动器是什么？计算机系统中的驱动器的功能与类型  纳米是什么单位？纳米有多小？带你走入纳米的世界  什么是占空比？pwm、boost电路、555定时器、lm324等占空比的计算公式  EDA是什么意思？eda技术是什么？eda软件有哪些？  尽管地缘政治紧张局势存在不确定性，但RISC-V架构仍在继续发展  Vishay将收购Nexperia的纽波特晶圆厂，预计将于2024年第一季度完成  ROHM已开始量产自动校正失调电压的零漂移运算放大器  74hc595是什么电子元件？74hc595参数/引脚图及功能等中文资料  中国首家！意行半导体推民用毫米波雷达MMIC解决方案  NXP新型UWB IC 系列提供安全的汽车访问  什么是usb调试模式？华为/小米/Oppo/Vivo/手机usb调试在哪  城域网是什么意思？城域网和广域网的区别  瑞萨推出采用其自行设计的 32 位 RISC-V 内核的新 CPU  适用于汽车应用领域的3款电路保护器件  2023年度客家电子商会盛典暨年底颁奖典礼  尼吉康将推出“UTH”系列引线型线性铝电解电容器，105℃环境下工作寿命可长达5000小时  443端口是什么协议？443端口是干什么的？443端口和80端口的区别  焦距是什么意思？镜头焦距公式与换算  成像技术在电子产品质量控制中的作用  ROM是什么意思？ROM和RAM的区别  瑞萨电子提升32位MCU中24位ADC的性能  电感单位是什么？电感单位换算公式与关系  西门子加入 SureCore 和 Semiwise 开发低温CMOS电路芯片  英特尔推出第5代 Xeon 处理器，负载性能提高了 36%  ad620是什么电子元件？ad620的参数/工作原理/引脚图及功能等中文资料  Viasat和Skylo将推出用于物联网的太空网络通信设备  怎么解除手机耳机模式？手机关闭耳机模式的方法  直流接触器有什么用？直流接触器和交流接触器的区别  发烧友使用 AMD Ryzen 的 3D V-Cache 来生产微型、超快的伪 SSD  滑动变阻器的工作原理与作用  ESIM卡是什么意思?esim卡和sim卡有什么区别  2024年半导体行业会进入一个上升的周期吗？  具有四个 Arm Cortex-X4 内核的智能手机旗舰 SoC  全球首款AMD Linux 游戏笔记本电脑首次亮相  DDR4是什么意思？ddr3和ddr4有什么区别  固态光继电器应对高频、ATE 信号切换的方法  DOS是什么意思？windows常用DOS命令列表  Novocomms 利用 NovoSat 双端口天线减轻 L 频段负载  AV同芯插座的市场调查报告介绍  以太网是什么？以太网属于什么网络  SiC 是新型组串式逆变器的关键