Nvidia &DeepLearning.AI

NAT:NeMo Agent Toolkit

NAT：101 Nvidia's NeMo Agent Toolkit Making Agents Reliable

Talker:Brian McBrayer

Role:Solutions Architech in Generative AI

Main skills:

1、使用配置驱动开发构建NAT工作流，通过创建一个气候科学聊天机器人、在本地运行它，并以最少的代码将其作为RESTAPI提供服务。

2、通过将Python函数注册为用于分析NOAA气候数据的工具、使用Pydantic定义输入模式，以及将聊天机器人转变为ReAct代理来添加智能功能。

3、通过Phoenix跟踪启用可观测性，以可视化代理推理、工具选择决策，并识别性能瓶颈以进行调试。

4、通过结合NAT代理与LangGraph子代理，利用NAT的框架无关的编排功能，集成来自不同框架的多个代理。

5、使用NAT的评估框架来评估和改进性能，通过创建黄金标准数据集、发现错误，以及通过配置实验进行数据驱动的改进。

6、通过NATUI部署到生产环境，配置身份验证和速率限制、启用缓存，以及通过RESTAPI和专业网络界面启动您的工作流。

7、NAT直接与您已经使用的框架配合工作，构建可观察、可测量且可部署的代理。

Lesson sparks

Agentic systems that are observable,deployable and maintainable

Shipping it to production is where reality hits

NAT act as unified interface layer

NAT气候助手工作流升级，使用工具添加智能体

 Workflow:A simple LLM call→a react agent

Phoenix Tracing Telemetry神器

unified observation stream

Multiple Agent add mathematical capabilities

It’s just another python function to the NeMo agent toolkit

We can deeply integrate NAT into our existing agentic workflows to allow its config-driven development to work through all of our agents.

AI for everyone

/AI transformation playbook

机器学习案例

数据与反例

什么是转向AI企业的必要动作

Simple workflow of ML project

评估业务流程，AI项目启动条件

Limitation of AI perform

智能扬声器

自驾模型基础模块

Roles in a AI group

Major AI application areas

Adversarial attacks on AI