是时候升级你的Jetson TX2开发套件了

WhoseAI
1251 0 2020-05-18

2017年3月7日,NVIDIA在GTC上发布了Jetson TX2.

2020年5月14日,NVIDIA正式发布了基于Jetson Xavier NX 开发套件。

一转眼3年过去了,老黄都发布安培架构了,是时候将您手边Pascial架构的TX2升级到Volta架构的Xavier NX 了。

Jetson Xavier NX性能为啥比TX2强?

Jetson Xavier NX以小于15W的功率以小巧的体积提供高达21 TOPS的计算能力,为边缘AI设备和自动机带来了服务器级性能和云原生工作流。

Jetson Xavier NX基于NVIDIA开创性的Xavier SoC,可以并行运行多个复杂模型和多个高清传感器流。它包括以下功能:

-具有48个Tensor内核的集成NVIDIA Volta 384核Volta GPU

-2个NVIDIA深度学习加速器(DLA)引擎

-7向VLIW视觉加速器

-6核NVIDIA Carmel 64位ARMv8.2 CPU

-8GB 128位LPDDR4x


Jetson可用于以高性能推理将各种流行的DNN模型和ML框架部署到边缘,以执行诸如实时分类和对象检测,姿态估计,语义分段和自然语言处理(NLP)之类的任务。

图中显示了安装JetPack 4.4 DP版本和TensorRT 7.1的Jetson Nano,Jetson TX2,Jetson Xavier NX和Jetson AGX Xavier运行通用视觉DNN的推理基准测试结果:

注意:在Jetson Xavier NX和Jetson AGX Xavier上,NVIDIA深度学习加速器(NVDLA)引擎和GPU以INT8精度同时运行,而在Jetson Nano和Jetson TX2上,GPU以FP16精度运行。Jetson Xavier NX的性能比Jetson TX2高10倍,功率相同,体积小25%。

在这些基准测试期间,每个平台都以最高性能运行(Jetson AGX Xavier的MAX-N模式、Xavier NX和TX2的15W模式、Nano的10W模式)。这些基于视觉的任务的最大吞吐量是在批大小不超过15毫秒延迟阈值的情况下获得的。 —否则,对于平台超过此延迟阈值的网络,批处理大小为1。这种方法在实时应用程序的确定性低延迟要求与多流用例场景的最大性能之间取得了平衡。

Xavier NX发开套件有哪些改进?

首先从尺寸上,NX开发套件要比TX2开发套件小很多。以这样的小体积,大概放在无人车或者无人机上是十分合适的.


还记得Jetson TX2上那个小小的,且分辨率并不高,位置还被固定住的CSI摄像头么?


Jetson Xavier NX开发套件具备两个MIPI CSI摄像头连接器,可以轻松连接2个高清树莓派V2摄像头。


跟TX2开发套件只有1个USB3.0接口相比,Xavier开发套件有4个USB3.1接口。要知道数据传输方面: USB3.1比USB3.0快很多,3.1可以达到10G/s。而3.0只能有4.8G/s。

注意,Jetson Xavier NX开发套件里的模组是不带eMMc, 而是一个microSD卡插槽。这一点跟TX2开发套件不同。

TX2开发套件不能外接SSD,只能通过SD卡或者外接SATA硬盘来扩展存储。但是NX开发套件底部提供了一个M.2 Key-M NVMe插槽,可以很方便地外接SSD,以扩展高速存储。


支持最新的软件包

在NVIDIA Jetson嵌入式高性能产品上做开发的人都知道, JetPack(Jetson SDK)是一个按需的一体化软件包,捆绑了NVIDIA®Jetson嵌入式平台的开发软件。JetPack 包括最新L4T BSP软件包的支持。 使用最新的BSP自动刷新您的Jetson开发套件,并安装构建和配置Jetson嵌入式平台应用所需的最新软件工具。

最新发布的Jetpack 4.4包含了开发软件版本:

收到新的Jetson Xavier NX开发套件后,需要用JetPack映像刷microSD卡。刷机流程跟TX2开发套件不一样,但是对于新手小白会更容易上手。

将云原生方法论带到边缘计算

迄今为止,用于嵌入式和边缘设备的软件已被编写为单片系统。升级整体软件映像的复杂性增加了错误的风险,并使更新节奏难以加速。对于具有AI的边缘设备而言,这尤其成问题,该边缘设备需要频繁更新以维持快速的功能改进。

现代对敏捷功能和不断创新的期望(零停机时间)要求改变嵌入式和边缘设备软件的开发和部署方式。

在边缘采用微服务,容器化和容器编排等云原生范例是前进的道路。

微服务架构,容器化和编排使云应用程序能够摆脱整体工作流程的约束。现在,Jetson将云原生的转换思想带入了AI边缘设备。

Jetson是领先的AI边缘计算平台,拥有近五百万开发人员。它由JetPack SDK提供支持,具有相同的CUDA-X加速计算堆栈以及在全球数据中心和工作站中使用的NVIDIA Container Runtime。

借助在NVIDIA NGC上托管的用于Jetson的多个开发和部署容器,容器化框架和预先训练的AI模型,它可以用作AI应用程序开发的构建块。最新的Jetson Xavier NX以尽可能最小的尺寸实现全功能,多模式AI应用程序。

通过可扩展的软件开发,可以加快产品上市时间。为什么?因为无需同时更新其他应用程序组件,更新产品生命周期的工作量就减少了。

同样的预算,翻倍的性能

今天开始,我们全面现货发售Jetson AGX NX开发套件,与Jetson TX2开发套件同样的价格,但可以轻松获得10倍的性能和更小的体积。

是时候升级您的Jetson TX2开发套件,来探索更多的深度学习框架和模型,尝试更多的可能,更加快速地打造您的AI产品原型!

更重要的是,我们已经积累了一个800多名Jetson开发者的QQ技术群,加入进来,交流您的开发经验。

点击进入我们的淘宝店铺