NVIDIA发布了那么多技术,哪些SDK值得开发者们关注?

WhoseAI
330 0 2021-04-26

为了帮助开发人员提高技能,一直以来,NVIDIA为数据科学家,研究人员,学生和各类开发人员推出了各种开发工具和技术,尤其是上周NVIDIA春季GTC大会召开后,又一波新的SDK在路上了。SDK是可以提高应用程序性能的关键组件。NVIDIA提供了数十种用于高性能计算,计算机视觉,数据科学,会话式AI,推荐系统和实时图形的全新和更新套件,因此开发人员几乎可以应对任何挑战。还提供了更新的工具来帮助开发人员加速应用程序开发。


我们就给大家撸一撸,作为开发者,我们要重点关注的SDK有哪些。


NVIDIA NGC

https://ngc.nvidia.com/catalog

NVIDIA NGC是基于用例的内容,整理了易于使用的NVIDIA各种软件包。NGC Collections使您可以轻松发现兼容的框架容器,模型,Juptyer笔记本,详细的文档和其他资源,从而更快速地开始使用AI用例,包括NLP,ASR,智能视频分析,对象检测等。


NVIDIA TAO(即将发布)

https://developer.nvidia.com/tao

AI应用程序的基础是深度学习模型,该模型已经过调整和优化以提供正确水平的准确性和性能。构建深度学习模型包括几个步骤,包括收集大型,高质量的数据集,准备数据,训练模型以及最终对其进行优化以进行部署。

对于许多企业来说,这是成本高昂的,因为他们可能无法访问训练这些复杂模型所需的数据,深厚的AI域专业知识和计算基础架构。

NVIDIA TAO通过整合关键的NVIDIA技术(例如来自NGC目录的预训练模型,Transfer Learning Toolkit(TLT),使用NVIDIA Clara和NVIDIATensorRT的联合学习)来简化AI的创建过程,从而简化了AI的创建过程。通过基于GUI的直观工作流的AI应用程序。

此外,通过NVIDIA Fleet Command的集成,IT经理可以部署和编排优化的AI应用程序。


NVIDIA Jarvis

https://developer.nvidia.com/blog/introducing-jarvis-framework-for-gpu-accelerated-conversational-ai-apps/

Jarvis是一个用于构建多模式会话式AI服务的完全加速的应用程序框架。它包括在NVIDIA DGX系统上进行了数千小时预训练的最新模型,用于以零编码使这些模型适应领域的 Transfer Learning Toolkit ,以及优化的端到端语音,视觉和语言管道,实时运行。


NVIDIA Maxine

https://developer.nvidia.com/maxine 

Maxine是GPU加速的SDK,具有最先进的AI功能,供开发人员构建虚拟协作和内容创建应用程序,例如视频会议和实时流媒体。Maxine的AI SDK(视频效果,音频效果和增强现实)经过高度优化,并具有模块化功能,可以将这些功能链接到端到端流水线中,从而在PC和数据中心的GPU上实现最高性能。


NVIDIA Merlin

https://developer.nvidia.com/zh-cn/nvidia-merlin

Merlin是一个应用程序框架,当前处于公开测试阶段,可用于开发深度学习推荐器系统-从数据预处理到模型训练和推理-所有这些都在NVIDIA GPU上加速。Merlin 可助力数据科学家、机器学习工程师和研究人员大规模构建高性能推荐系统。Merlin 内含丰富的工具,可通过解决常见的 ETL 以及训练和推理难题,普及深度学习推荐系统的构建。Merlin 流程的每个阶段均已经过优化,可支持数百兆兆字节的数据,您可通过易于使用的 API 访问所有这些阶段。借助 Merlin,您可实现比传统方法更准确的预测,轻松达到更高的点击率。


NVIDIA DeepStream

https://developer.nvidia.com/deepstream-sdk

DeepStream一种AI流分析工具包,用于构建高性能,低延迟,复杂的视频分析应用和服务。


NVIDIA TRITON推理服务器

https://developer.nvidia.com/nvidia-triton-inference-server

NVIDIA Triton推理服务器简化了大规模生产中AI模型的部署。开源推理服务软件,它使团队可以从任何基于GPU或CPU的基础架构(云)上的本地存储或云平台,从任何框架(TensorFlow,NVIDIATensorRT,PyTorch,ONNX运行时或自定义)部署经过训练的AI模型。,数据中心或边缘)。可以从NGC上下载。