Data pipelines typically fall under one of the Extra-Load, Extract-Load-Transform or Extract-Transform-Load paradigms. This course describes which paradigm should be used and when for batch data. Furthermore, this course covers several technologies on Google Cloud Platform for data transformation including BigQuery, executing Spark on Cloud Dataproc, pipeline graphs in Cloud Data Fusion and serverless data processing with Cloud Dataflow. Learners will get hands-on experience building data pipeline components on Google Cloud Platform using QwikLabs.
Building Batch Data Pipelines on GCP
oferecido por
Google Cloud
Informações sobre o curso
25,595 visualizações recentes
100% on-line
Comece imediatamente e aprenda em seu próprio cronograma.
Prazos flexíveis
Redefinir os prazos de acordo com sua programação.
Nível intermediário
Aprox. 12 horas para completar
Sugerido: 28 hours/week
Inglês
Legendas: Inglês
Programa - O que você aprenderá com este curso
Semana
15 minutos para concluir
Introduction
In this module, we introduce the course and agenda
2 vídeos (Total 5 mín.)
1 hora para concluir
Introduction to Batch Data Pipelines
This module reviews different methods of data loading: EL, ELT and ETL and when to use what
5 vídeos (Total 18 mín.), 1 teste
5 videos
EL, ELT, ETL4min
Quality considerations1min
How to carry out operations in BigQuery3min
Shortcomings3min
ETL to solve data quality issues4min
1 exercício prático
EL, ELT, ETL30min
2 horas para concluir
Executing Spark on Cloud Dataproc
This module shows how to run Hadoop on Cloud Dataproc, how to leverage GCS, and how to optimize your Dataproc jobs.
9 vídeos (Total 49 mín.), 2 testes
9 videos
Running Hadoop on Cloud Dataproc10min
GCS instead of HDFS6min
Optimizing Dataproc5min
Optimizing Dataproc Storage9min
Optimizing Dataproc Templates and Autoscaling4min
Optimizing Dataproc Monitoring3min
Lab Intro: Running Apache Spark jobs on Cloud Dataproc27s
Summary31s
1 exercício prático
Executing Spark on Cloud Dataproc4min
Semana
23 horas para concluir
Manage Data Pipelines with Cloud Data Fusion and Cloud Composer
This module shows how to manage data pipelines with Cloud Data Fusion and Cloud Composer.
11 vídeos (Total 45 mín.), 3 testes
11 videos
Introduction7min
Components of Data Fusion2min
Building a Pipeline6min
Exploring Data using Wrangler1min
Lab: Building and executing a pipeline graph in Cloud Data Fusion17s
Orchestrating work between GCP services with Cloud Composer1min
Apache Airflow Environment1min
DAGs and Operators12min
Workflow scheduling6min
Monitoring and Logging4min
Lab: An Introduction to Cloud Composer12s
1 exercício prático
Cloud Data Fusion and Cloud Composer30min
7 horas para concluir
Serverless Data Processing with Cloud Dataflow
This module covers using Cloud Dataflow to build your data processing pipelines
12 vídeos (Total 40 mín.), 7 testes
12 videos
Cloud Dataflow8min
Why customers value Dataflow3min
Building Cloud Dataflow Pipelines in code3min
Key considerations with designing pipelines2min
Transforming data with PTransforms3min
Lab: Building a Simple Dataflow Pipeline17s
Aggregating with GroupByKey and Combine7min
Lab: MapReduce in Cloud Dataflow18s
Side Inputs and Windows of data4min
Lab: Practicing Pipeline Side Inputs11s
Creating and re-using Pipeline Templates3min
Cloud Dataflow SQL pipelines3min
1 exercício prático
Data Processing with Cloud Dataflow30min
4 minutos para concluir
Summary
This module reviews the topics covered in this course
1 vídeo (Total 4 mín.)
1 vídeos
Course Summary4min
Sobre Google Cloud
We help millions of organizations empower their employees, serve their customers, and build what’s next for their businesses with innovative technology created in—and for—the cloud. Our products are engineered for security, reliability, and scalability, running the full stack from infrastructure to applications to devices and hardware. Our teams are dedicated to helping customers apply our technologies to create success.
Perguntas Frequentes – FAQ
Posso assistir uma prévia do curso antes de me inscrever?
Sim, você pode assistir uma prévia do primeiro vídeo e ver programa do curso antes de se inscrever. Você precisa comprar o curso para ter acesso ao conteúdo não incluído na prévia.
Quando terei acesso às palestras e às tarefas?
Se decidir se inscrever no curso antes da data de início da sessão, terá acesso a todos os vídeos das palestras e leituras do curso. Também poderá enviar tarefas assim que a sessão começar.
O que recebo ao me inscrever?
Uma vez inscrito, e tão logo sua sessão tenha iniciado, você terá acesso a todos os vídeos e outros recursos, incluindo itens de leitura e fórum de discussão do curso. Você poderá ver e enviar tarefas práticas e concluir tarefas com nota atribuída obrigatórias para obter uma nota e um Certificado de Curso.
Quando receberei meu Certificado de Curso?
Se você concluir o curso com êxito, seu Certificado de Curso eletrônico será adicionado à sua página de Participações e você poderá imprimi-lo ou adicioná-lo ao seu perfil no LinkedIn.
Por que não posso assistir este curso como ouvinte?
Este curso é um dos poucos oferecidos pela Coursera que está disponível apenas para alunos que tenham pago ou recebido auxílio financeiro, quando disponível.
Qual é a política de reembolso?
Mais dúvidas? Visite o Central de Ajuda ao Aprendiz.