为了帮助开发人员提高技能,一直以来,NVIDIA为数据科学家,研究人员,学生和各类开发人员推出了各种开发工具和技术,尤其是上周NVIDIA春季GTC大会召开后,又一波新的SDK在路上了。SDK是可以提高应用程序性能的关键组件。NVIDIA提供了数十种用于高性能计算,计算机视觉,数据科学,会话式AI,推荐系统和实时图形的全新和更新套件,因此开发人员几乎可以应对任何挑战。还提供了更新的工具来帮助开发人员加速应用程序开发。
我们就给大家撸一撸,作为开发者,我们要重点关注的SDK有哪些。
NVIDIA NGC
https://ngc.nvidia.com/catalog
NVIDIA NGC是基于用例的内容,整理了易于使用的NVIDIA各种软件包。NGC Collections使您可以轻松发现兼容的框架容器,模型,Juptyer笔记本,详细的文档和其他资源,从而更快速地开始使用AI用例,包括NLP,ASR,智能视频分析,对象检测等。
NVIDIA TAO(即将发布)
https://developer.nvidia.com/tao
AI应用程序的基础是深度学习模型,该模型已经过调整和优化以提供正确水平的准确性和性能。构建深度学习模型包括几个步骤,包括收集大型,高质量的数据集,准备数据,训练模型以及最终对其进行优化以进行部署。
对于许多企业来说,这是成本高昂的,因为他们可能无法访问训练这些复杂模型所需的数据,深厚的AI域专业知识和计算基础架构。
NVIDIA TAO通过整合关键的NVIDIA技术(例如来自NGC目录的预训练模型,Transfer Learning Toolkit(TLT),使用NVIDIA Clara和NVIDIATensorRT的联合学习)来简化AI的创建过程,从而简化了AI的创建过程。通过基于GUI的直观工作流的AI应用程序。
此外,通过NVIDIA Fleet Command的集成,IT经理可以部署和编排优化的AI应用程序。
NVIDIA Jarvis
Jarvis是一个用于构建多模式会话式AI服务的完全加速的应用程序框架。它包括在NVIDIA DGX系统上进行了数千小时预训练的最新模型,用于以零编码使这些模型适应领域的 Transfer Learning Toolkit ,以及优化的端到端语音,视觉和语言管道,实时运行。
NVIDIA Maxine
https://developer.nvidia.com/maxine
Maxine是GPU加速的SDK,具有最先进的AI功能,供开发人员构建虚拟协作和内容创建应用程序,例如视频会议和实时流媒体。Maxine的AI SDK(视频效果,音频效果和增强现实)经过高度优化,并具有模块化功能,可以将这些功能链接到端到端流水线中,从而在PC和数据中心的GPU上实现最高性能。
NVIDIA Merlin
https://developer.nvidia.com/zh-cn/nvidia-merlin
Merlin是一个应用程序框架,当前处于公开测试阶段,可用于开发深度学习推荐器系统-从数据预处理到模型训练和推理-所有这些都在NVIDIA GPU上加速。Merlin 可助力数据科学家、机器学习工程师和研究人员大规模构建高性能推荐系统。Merlin 内含丰富的工具,可通过解决常见的 ETL 以及训练和推理难题,普及深度学习推荐系统的构建。Merlin 流程的每个阶段均已经过优化,可支持数百兆兆字节的数据,您可通过易于使用的 API 访问所有这些阶段。借助 Merlin,您可实现比传统方法更准确的预测,轻松达到更高的点击率。
NVIDIA DeepStream
https://developer.nvidia.com/deepstream-sdk
DeepStream一种AI流分析工具包,用于构建高性能,低延迟,复杂的视频分析应用和服务。
NVIDIA TRITON推理服务器
https://developer.nvidia.com/nvidia-triton-inference-server
NVIDIA Triton推理服务器简化了大规模生产中AI模型的部署。开源推理服务软件,它使团队可以从任何基于GPU或CPU的基础架构(云)上的本地存储或云平台,从任何框架(TensorFlow,NVIDIATensorRT,PyTorch,ONNX运行时或自定义)部署经过训练的AI模型。,数据中心或边缘)。可以从NGC上下载。

- 关于NVIDIA Jetson AGX Orin模组,这些信息很重要
- 对计算能力9.0+GPU卡特性的探索
- 在自动光学检测(AOI)领域中推广Jetson Xavier 方案到底解决哪些痛点?
- 关于Jetson AGX Orin产品你不知道的关键点都在这里
- 揭秘 Jetson 上的统一内存
- NVIDIA Jetson 软件: 将 NVIDIA 加速技术带到边缘
- 新一代Jetson NANO开发套件(B01)开箱
- 从Tensorflow生成TensorRT引擎的方法
- 实战教程:利用NVIDIA TensorRT优化一个推荐系统
- NVIDIA机器人开发工具包ISAAC实战(英文)
- 如何搭建一个NVIDIA JetBot小车(英文)
- Jetson TX2进行摄像头驱动的开发