Optimize TensorFlow Models For Deployment with TensorRT

4.6
estrelas

56 classificações

oferecido por

3.562 já se inscreveram

Neste Projeto guiado gratuito, você irá:

Optimize Tensorflow models using TensorRT (TF-TRT)

Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision

Observe how tuning TF-TRT parameters affects performance and inference throughput

Mostre essa experiência prática em uma entrevista

1.5 hours
Intermediário
Sem necessidade de download
Vídeo em tela dividida
Inglês
Apenas em desktop

This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Requisitos

It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API

Habilidades que você desenvolverá

  • Deep Learning

  • NVIDIA TensorRT (TF-TRT)

  • Python Programming

  • Tensorflow

  • keras

Aprender passo a passo

Em um vídeo reproduzido em uma tela dividida com a área de trabalho, seu instrutor o orientará sobre esses passos:

  1. Introduction and Project Overview

  2. Setup your TensorFlow and TensorRT Runtime

  3. Load the Data and Pre-trained InceptionV3 Model

  4. Create batched Input

  5. Load the TensorFlow SavedModel

  6. Get Baseline for Prediction Throughput and Accuracy

  7. Convert a TensorFlow saved model into a TF-TRT Float32 Graph

  8. Benchmark TF-TRT Float32

  9. Convert to TF-TRT Float16 and Benchmark

  10. Converting to TF-TRT INT8

Como funcionam os projetos guiados

Sua área de trabalho é um espaço em nuvem, acessado diretamente do navegador, sem necessidade de nenhum download

Em um vídeo de tela dividida, seu instrutor te orientará passo a passo

Instrutores

Avaliações

Principais avaliações do OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT

Visualizar todas as avaliações

Perguntas Frequentes – FAQ

Como seu espaço de trabalho tem uma área de trabalho na nuvem dimensionada para notebooks e computadores desktop, os projetos guiados não estão disponíveis para dispositivos móveis.

Os instrutores do projeto guiado são especialistas no assunto, têm experiência com a habilidade, a ferramenta ou o domínio do projeto e amam compartilhar seus conhecimentos para ajudar milhões de aprendizes do mundo todo.

Você pode baixar e manter todos os arquivos que foram criados para seu projeto guiado. Para fazer isso, você pode usar o recurso "Navegador de arquivos" enquanto acessa a área de trabalho na nuvem.

Na parte superior da página, você pode clicar no nível de experiência deste projeto guiado para visualizar os pré-requisitos de conhecimento. Em cada nível dos projetos guiados, seu instrutor o guiará passo a passo.

Sim, tudo o que você precisa para completar o projeto guiado estará disponível em uma área de trabalho na nuvem disponível no seu navegador.

Você aprenderá na prática ao completar tarefas em um ambiente com tela dividida, diretamente em seu navegador. No lado esquerdo da tela, você completa a tarefa no seu espaço de trabalho. No lado direito, você assiste a um instrutor que o guiará pelo projeto, passo a passo.