关于Jetson AGX Orin产品你不知道的关键点都在这里

NVIDIA
1548 0 2022-04-04


本文节选自NVIDIA GTC讲座[S41957](我们就只整理重点部分):

让我们开始吧,我们开发jetson 和edge AI 产品已经有一段时间了,我们从2014年3 月开始了这段旅程,我们已经在我们的产品组合中添加了越来越多的产品,jetson 的增长真的很棒成为物联网和边缘应用最成功的平台之一。我们很高兴地说,我们有 100 万开发人员对 jetson 边缘嵌入式系统进行了开发。

在这里,我们展示了jetson模组(也成为核心板)组合,我们将jetson系列分为入门级主流和高端自主机器三类。我将从这张幻灯片的底部开始,从左到右列出我们现有的产品,这些产品具有越来越多的性能特性和功能,每个模块都带有内存、电源和I/O接口,每个 SOC 都有一个基于各种 gpu 代的特定功能集。

(具体的每个模组规格就不一一介绍了,大家自己看)



我们看到机器人技术的新时代正在出现,需要数量级的更高计算机器人现在正在进入人类世界,而不是孤立地工作,这需要多传感器感知、映射和定位、路径规划和控制、态势感知和安全,这些不断增加的任务正在推动对更多计算的需求

我们很高兴地宣布,我们将推出在边缘具有服务器级 AI 性能的 jetson AGX Orin 系列,该系列具有高达 258 INT8 TOPS 的性能,由 Ampere gpu 和深度学习加速器 (DLA) 提供支持。它配备多达 12 个 A78 ARM cpu 内核和高达 64 GB 的内存,每秒 204 GB,您可以使用 AGX Orin 开发套件开始开发 AGX Orin 系列。

Jetson AGX Orin 系列将有两个模块,一个 Jetson AGX Orin 64 GB 和一个 Jetson AGX Orin 32 GB。规格和价格分别如下:

深入了解 Orin 架构图,这里重点介绍 Jetson AGX Orin 64 GB 架构。十二个 cpu 核心分为3个4组,对于 32 GB 的 Jetson AGX Orin,它分为2个4组。 GPU 分为 AGX Orin 64G 的 8TPC 和 16个SM 以及 AGX Orin 32G 的 7 TPC 和 14个SM。

Orin 配备了我们的第三代Tensor Cores,可提高性能并支持稀疏矩阵。 Orin 基于我们为 Xavier 所做的多处理器构建,它不仅具有 GPU 和CPU,还具有其他处理器,可以帮助从 gpu 和 cpu 卸载应用程序的某些部分。它包括一个专用于 AI 应用的深度学习加速器、一个用于计算机视觉应用和 isp 的视觉加速器,以及一个视频解码和视频编码引擎。与 Xavier 相比,我们还为 Orin 带来了 LPDDR5 以提高带宽。 Orin 还具备丰富的 io 连接,从多达 22 个 pcie 通道到 10 个千兆以太网和 16 个 csi 通道以及各种其他传感器接口,


Jetson AGX Orin提供了8倍于Jetson AGX Xavier的性能:

它测量了 Jetson AGX Orin 上的一些真实性能数据,它为您的下一代应用程序提供了巨大的飞跃。在这里,我们重点介绍了我们的 9 个视觉 AI 对话式 AI 预训练密集模型,其中包括用于人员检测的 PeopleNet、2D 和 3D 动作识别、车牌识别 (LPR)、Dashcam Net、bodypost Net、语音识别模型、自然语言处理模型,最后是文本到语音模型,通过这些密集模型,我们看到了3.3倍的性能提升。

另外,在AGX Xavier上,我们运行 JetPack 4.1 跟JetPack 5.0 相比,有1.5倍的性能提升,我们相信在AGX Orin上做同样的氧化,也可以导致客户最终能够获得接近五倍的性能提升。


在这里宣布我们的 jetson Orin NX 系列,在这里我们做了一些非常类似于我们对 Xavier 所做的事情,我们有一个简化版的 Orin,IM 外形,它将配备高达100 Int8 TOPs 性能,同样由 Ampere gpu 和深度学习加速器提供支持。它将具有 8 个 A78 ARM cpu 内核和高达 16 GB 的内存。该系列将配备两个模块:8 GB 和16 GB 版本。Orin NX 的量产模块将于 2022 年第 4 季度上市,好消息是您今天就可以开始开发,我们将在 Jetson AGX Orin 开发套件上提供刷机配置,供您接下来模拟 Orin NX。


今天有很多令人兴奋的消息,我们将有四个新的生产用的Jetson 模组。您可以用近似相同的价格,将Jetson Xavier系列升级到下一代Orin系列产品,但性能极大提高。


立即开始您的开发,使用 Jetson AGX Orin 开发套件可以让您开始使用所有四个模块。它将提供一种模拟模式来模拟 AGX Orin 系列和 Orin NX 系列的性能。开发套件将配备一个特殊的 Jetson AGX Orin 模块和散热器,,在 50 到 60 瓦的功率预算和 32 GB 的内存下提供高达 275 TOPS 的性能,

最后,我想谈谈我们的模块路线图。从我们的商业路线图开始,量产的 AGX Orin 模块和 Orin NX 模块将在 2022 年的第四季度上市。我们还将在 2023 年推出下一代 nano : nano next

继续我们的工业路线图,我们将在 2023 年推出 AGX Orin模块的工业版本。我还想强调一下,我们创建了一个新的加固系统页面,以帮助您确定适合您的工业应用的解决方案。在此页面上,还有一份技术简介,其中包含系统级指南,客户可以使用SODIMM 模组在坚固的环境中操作它们,