英伟达推出了最新的Jetson System-on-Module,用于具有安全关键硬件的高性能机器学习。
Jetson AGX Orin SoM尺寸为100mm x 87mm,在引脚兼容的形式因数下的性能是Jetson AGX Xavier的6倍。该模块的目标是下一代自主配送和物流机器人、工厂系统和大型工业无人机。
自动机器硬件产品经理Leela Karumbunathan表示:“Jetson AGX Orin是最强大的人工智能边缘计算机,为自动系统提供了高达200个top的人工智能性能。
该模块使用Orin SoC和Nvidia的Ampere架构,该架构支持带GPU的稀疏AI、ARM Cortex-A78AE CPU、下一代深度学习和视觉加速器以及视频编码器和视频解码器。高速IO、204gb /s内存带宽和32gb DRAM使该模块能够同时满足多个AI应用管道。
Jetson AGX Orin使用集成的安培GPU,由两个图形处理集群(GPCs)、八个纹理处理集群(TPCs)、16个流多处理器(SM’s)、每个SM有192kb的l1缓存和4mb的L2缓存组成。有128个CUDA核和4个TensorFLow加速器,相比之下,上一代Volta架构的64个CUDA核。这提供了总共2048个CUDA核和64个张量核,多达131个INT8张量计算的稀疏top,多达4.096个CUDA计算的FP32 TFLOPs。
细粒度计算结构支持这种稀疏性,使吞吐量翻倍并减少内存使用
在CPU方面,Jetson AGX Orin最大的变化是从Nvidia的自定义Carmel CPU集群转移到ARM Cortex-A78AE。Orin CPU由12个2GHz内核组成,每个内核都有64KB指令L1缓存和64KB数据缓存,