Optimize TensorFlow Models For Deployment with TensorRT
Optimize Tensorflow models using TensorRT (TF-TRT)
Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision
Observe how tuning TF-TRT parameters affects performance and inference throughput
Mostre essa experiência prática em uma entrevista
This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API
Habilidades que você desenvolverá
- Deep Learning
- NVIDIA TensorRT (TF-TRT)
- Python Programming
- Tensorflow
- keras
Aprender passo a passo
Em um vídeo reproduzido em uma tela dividida com a área de trabalho, seu instrutor o orientará sobre esses passos:
Introduction and Project Overview
Setup your TensorFlow and TensorRT Runtime
Load the Data and Pre-trained InceptionV3 Model
Create batched Input
Load the TensorFlow SavedModel
Get Baseline for Prediction Throughput and Accuracy
Convert a TensorFlow saved model into a TF-TRT Float32 Graph
Benchmark TF-TRT Float32
Convert to TF-TRT Float16 and Benchmark
Converting to TF-TRT INT8
Como funcionam os projetos guiados
Sua área de trabalho é um espaço em nuvem, acessado diretamente do navegador, sem necessidade de nenhum download
Em um vídeo de tela dividida, seu instrutor te orientará passo a passo
Avaliações
Principais avaliações do OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT
Great workshop, all the concepts were very well explained.
Perguntas Frequentes – FAQ
Perguntas Frequentes – FAQ
Os projetos guiados estão disponíveis no computador e em dispositivos móveis?
Quem são os instrutores dos projetos guiados?
Posso baixar o trabalho do meu projeto guiado após completá-lo?
Quanta experiência eu preciso ter para fazer esse projeto guiado?
Posso completar esse projeto guiado pelo meu navegador web em vez de instalar um software especial?
Como é a experiência de aprendizado com os projetos guiados?
Mais dúvidas? Visite o Central de Ajuda ao estudante.
Coursera Footer
