Cleaning and Exploring Big Data using PySpark
51 classificações

3.340 já se inscreveram
Learn how to clean your big dataset in PySpark
Learn how to explore big dataset in PySpark
Learn how to create visualizations from big dataset loaded in PySpark
3.340 já se inscreveram
Learn how to clean your big dataset in PySpark
Learn how to explore big dataset in PySpark
Learn how to create visualizations from big dataset loaded in PySpark
By the end of this project, you will learn how to clean, explore and visualize big data using PySpark. You will be using an open source dataset containing information on all the water wells in Tanzania. I will teach you various ways to clean and explore your big data in PySpark such as changing column’s data type, renaming categories with low frequency in character columns and imputing missing values in numerical columns. I will also teach you ways to visualize your data by intelligently converting Spark dataframe to Pandas dataframe. Cleaning and exploring big data in PySpark is quite different from Python due to the distributed nature of Spark dataframes. This guided project will dive deep into various ways to clean and explore your data loaded in PySpark. Data preprocessing in big data analysis is a crucial step and one should learn about it before building any big data machine learning model. Note: You should have a Gmail account which you will use to sign into Google Colab. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.
Cleaning
Python Programming
Data Visualization (DataViz)
Apache Spark
Exploratory Data Analysis
Em um vídeo reproduzido em uma tela dividida com a área de trabalho, seu instrutor o orientará sobre esses passos:
Install Spark on Google Colab and load datasets in PySpark
Change column datatype, remove whitespaces and drop duplicates
Remove columns with Null values higher than a threshold
Group, aggregate and create pivot tables
Rename categories and impute missing numeric values
Create visualizations to gather insights
Sua área de trabalho é um espaço em nuvem, acessado diretamente do navegador, sem necessidade de nenhum download
Em um vídeo de tela dividida, seu instrutor te orientará passo a passo
por NN
22 de abr de 2022use case could be explained a little better, before actually going to the code
por JA
23 de mar de 2022fast and simple explanation about ow to start to work with Spak on Colab
por SR
14 de dez de 2020More theory behind the functions used and concepts behind spark and how it works in a distributed way would've been more benefitting. Overall it was a worthy course.
por AA
21 de ago de 2021Practical walk through of basic PySpark operations. Great quick-start to using Pyspark for data analysis
Ao comprar projetos guiados, você recebe tudo o que precisa para completá-los, inclusive acesso a um espaço de trabalho de área de trabalho na nuvem por meio do seu navegador web, que contém o software e os arquivos necessários para iniciar, além de um vídeo de instruções passo a passo de um especialista no assunto.
Como seu espaço de trabalho tem uma área de trabalho na nuvem dimensionada para notebooks e computadores desktop, os projetos guiados não estão disponíveis para dispositivos móveis.
Os instrutores do projeto guiado são especialistas no assunto, têm experiência com a habilidade, a ferramenta ou o domínio do projeto e amam compartilhar seus conhecimentos para ajudar milhões de aprendizes do mundo todo.
Você pode baixar e manter todos os arquivos que foram criados para seu projeto guiado. Para fazer isso, você pode usar o recurso "Navegador de arquivos" enquanto acessa a área de trabalho na nuvem.
Reembolsos não estão disponíveis para projetos guiados. Consulte nossa política de reembolso completa.
Não há auxílio financeiro disponível para projetos guiados.
A participação como ouvinte não está disponível para projetos guiados.
Na parte superior da página, você pode clicar no nível de experiência deste projeto guiado para visualizar os pré-requisitos de conhecimento. Em cada nível dos projetos guiados, seu instrutor o guiará passo a passo.
Sim, tudo o que você precisa para completar o projeto guiado estará disponível em uma área de trabalho na nuvem disponível no seu navegador.
Você aprenderá na prática ao completar tarefas em um ambiente com tela dividida, diretamente em seu navegador. No lado esquerdo da tela, você completa a tarefa no seu espaço de trabalho. No lado direito, você assiste a um instrutor que o guiará pelo projeto, passo a passo.
Mais dúvidas? Visite o Central de Ajuda ao estudante.