This intermediate-level course introduces the mathematical foundations to derive Principal Component Analysis (PCA), a fundamental dimensionality reduction technique. We'll cover some basic statistics of data sets, such as mean values and variances, we'll compute distances and angles between vectors using inner products and derive orthogonal projections of data onto lower-dimensional subspaces. Using all these tools, we'll then derive PCA as a method that minimizes the average squared reconstruction error between data points and their reconstruction.
Este curso faz parte do Programa de cursos integrados Matemática para aprendizagem automática
oferecido por
Programa de cursos integrados Matemática para aprendizagem automáticaImperial College LondonInformações sobre o curso
243,854 visualizações recentes
Resultados de carreira do aprendiz
50%
comecei uma nova carreira após concluir estes cursos
48%
consegui um benefício significativo de carreira com este curso
Certificados compartilháveis
Tenha o certificado após a conclusão
100% on-line
Comece imediatamente e aprenda em seu próprio cronograma.
Prazos flexíveis
Redefinir os prazos de acordo com sua programação.
Nível intermediário
Aprox. 19 horas para completar
Inglês
Legendas: Inglês
O que você vai aprender
Implement mathematical concepts using real-world data
Derive PCA from a projection perspective
Understand how orthogonal projections work
Master PCA
Habilidades que você terá
Dimensionality ReductionPython ProgrammingLinear Algebra
Resultados de carreira do aprendiz
50%
comecei uma nova carreira após concluir estes cursos
48%
consegui um benefício significativo de carreira com este curso
Certificados compartilháveis
Tenha o certificado após a conclusão
100% on-line
Comece imediatamente e aprenda em seu próprio cronograma.
Prazos flexíveis
Redefinir os prazos de acordo com sua programação.
Nível intermediário
Aprox. 19 horas para completar
Inglês
Legendas: Inglês
oferecido por
Imperial College London
Imperial College London is a world top ten university with an international reputation for excellence in science, engineering, medicine and business. located in the heart of London. Imperial is a multidisciplinary space for education, research, translation and commercialisation, harnessing science and innovation to tackle global challenges.
Programa - O que você aprenderá com este curso
5 horas para concluir
Statistics of Datasets
Principal Component Analysis (PCA) is one of the most important dimensionality reduction algorithms in machine learning. In this course, we lay the mathematical foundations to derive and understand PCA from a geometric point of view. In this module, we learn how to summarize datasets (e.g., images) using basic statistics, such as the mean and the variance. We also look at properties of the mean and the variance when we shift or scale the original data set. We will provide mathematical intuition as well as the skills to derive the results. We will also implement our results in code (jupyter notebooks), which will allow us to practice our mathematical understand to compute averages of image data sets.
5 horas para concluir
8 vídeos (Total 27 mín.), 6 leituras, 4 testes
8 videos
Welcome to module 141s
Mean of a dataset4min
Variance of one-dimensional datasets4min
Variance of higher-dimensional datasets5min
Effect on the mean4min
Effect on the (co)variance3min
See you next module!27s
6 leituras
About Imperial College & the team5min
How to be successful in this course5min
Grading policy5min
Additional readings & helpful references5min
Set up Jupyter notebook environment offline10min
Symmetric, positive definite matrices10min
3 exercícios práticos
Mean of datasets15min
Variance of 1D datasets15min
Covariance matrix of a two-dimensional dataset15min
4 horas para concluir
Inner Products
Data can be interpreted as vectors. Vectors allow us to talk about geometric concepts, such as lengths, distances and angles to characterise similarity between vectors. This will become important later in the course when we discuss PCA. In this module, we will introduce and practice the concept of an inner product. Inner products allow us to talk about geometric concepts in vector spaces. More specifically, we will start with the dot product (which we may still know from school) as a special case of an inner product, and then move toward a more general concept of an inner product, which play an integral part in some areas of machine learning, such as kernel machines (this includes support vector machines and Gaussian processes). We have a lot of exercises in this module to practice and understand the concept of inner products.
4 horas para concluir
8 vídeos (Total 36 mín.), 1 leitura, 5 testes
8 videos
Dot product4min
Inner product: definition5min
Inner product: length of vectors7min
Inner product: distances between vectors3min
Inner product: angles and orthogonality5min
Inner products of functions and random variables (optional)7min
Heading for the next module!35s
1 leituras
Basis vectors20min
4 exercícios práticos
Dot product10min
Properties of inner products20min
General inner products: lengths and distances20min
Angles between vectors using a non-standard inner product20min
4 horas para concluir
Orthogonal Projections
In this module, we will look at orthogonal projections of vectors, which live in a high-dimensional vector space, onto lower-dimensional subspaces. This will play an important role in the next module when we derive PCA. We will start off with a geometric motivation of what an orthogonal projection is and work our way through the corresponding derivation. We will end up with a single equation that allows us to project any vector onto a lower-dimensional subspace. However, we will also understand how this equation came about. As in the other modules, we will have both pen-and-paper practice and a small programming example with a jupyter notebook.
4 horas para concluir
6 vídeos (Total 25 mín.), 1 leitura, 3 testes
6 videos
Projection onto 1D subspaces7min
Example: projection onto 1D subspaces3min
Projections onto higher-dimensional subspaces8min
Example: projection onto a 2D subspace3min
This was module 3!32s
1 leituras
Full derivation of the projection20min
2 exercícios práticos
Projection onto a 1-dimensional subspace25min
Project 3D data onto a 2D subspace40min
5 horas para concluir
Principal Component Analysis
We can think of dimensionality reduction as a way of compressing data with some loss, similar to jpg or mp3. Principal Component Analysis (PCA) is one of the most fundamental dimensionality reduction techniques that are used in machine learning. In this module, we use the results from the first three modules of this course and derive PCA from a geometric point of view. Within this course, this module is the most challenging one, and we will go through an explicit derivation of PCA plus some coding exercises that will make us a proficient user of PCA.
5 horas para concluir
10 vídeos (Total 52 mín.), 5 leituras, 2 testes
10 videos
Problem setting and PCA objective7min
Finding the coordinates of the projected data5min
Reformulation of the objective10min
Finding the basis vectors that span the principal subspace7min
Steps of PCA4min
PCA in high dimensions5min
Other interpretations of PCA (optional)7min
Summary of this module42s
This was the course on PCA56s
5 leituras
Vector spaces20min
Orthogonal complements10min
Multivariate chain rule10min
Lagrange multipliers10min
Did you like the course? Let us know!10min
1 exercício prático
Chain rule practice20min
Avaliações
Principais avaliações do MATHEMATICS FOR MACHINE LEARNING: PCA
por JS16 de Jul de 2018
This is one hell of an inspiring course that demystified the difficult concepts and math behind PCA. Excellent instructors in imparting the these knowledge with easy-to-understand illustrations.
por NS18 de Jun de 2020
Relatively tougher than previous two courses in the specialization. I'd suggest giving more time and being patient in pursuit of completing this course and understanding the concepts involved.
por CJ28 de Fev de 2019
Great capstone for the three-class Mathematics for Machine Learning series. Assignments were way harder and programming debugging skills had to be appropiate in order to finish the class.
por JV30 de Abr de 2018
This course was definitely a bit more complex, not so much in assignments but in the core concepts handled, than the others in the specialisation. Overall, it was fun to do this course!
Sobre Programa de cursos integrados Matemática para aprendizagem automática
For a lot of higher level courses in Machine Learning and Data Science, you find you need to freshen up on the basics in mathematics - stuff you may have studied before in school or university, but which was taught in another context, or not very intuitively, such that you struggle to relate it to how it’s used in Computer Science. This specialization aims to bridge that gap, getting you up to speed in the underlying mathematics, building an intuitive understanding, and relating it to Machine Learning and Data Science.
In the first course on Linear Algebra we look at what linear algebra is and how it relates to data. Then we look through what vectors and matrices are and how to work with them.
The second course, Multivariate Calculus, builds on this to look at how to optimize fitting functions to get good fits to data. It starts from introductory calculus and then uses the matrices and vectors from the first course to look at data fitting.
The third course, Dimensionality Reduction with Principal Component Analysis, uses the mathematics from the first two courses to compress high-dimensional data. This course is of intermediate difficulty and will require Python and numpy knowledge.
At the end of this specialization you will have gained the prerequisite mathematical knowledge to continue your journey and take more advanced courses in machine learning.
Perguntas Frequentes – FAQ
Quando terei acesso às palestras e às tarefas?
O acesso a palestras e tarefas depende do tipo de inscrição. Se você participar de um curso como ouvinte, você poderá ver quase todo o conteúdo do curso gratuitamente. Para acessar tarefas valendo nota e obter um Certificado, você precisará adquirir a experiência do Certificado, durante ou após a participação como ouvinte. Se você não vir a opção de participar como ouvinte:
- o curso pode não oferecer essa opção. Você pode experimentar um teste gratuito ou solicitar o auxílio financeiro.
- Em vez disso, o curso pode oferecer 'Curso completo, sem Certificado'. Com esta opção, é possível ver todo o conteúdo do curso, enviar as avaliações necessárias e obter uma nota final. Isso também significa que você não poderá comprar uma experiência de Certificado.
O que recebo ao me inscrever nesta Especialização?
Quando você se inscreve no curso, tem acesso a todos os cursos na Especialização e pode obter um certificado quando concluir o trabalho. Seu Certificado eletrônico será adicionado à sua página de Participações e você poderá imprimi-lo ou adicioná-lo ao seu perfil no LinkedIn. Se quiser apenas ler e assistir o conteúdo do curso, você poderá frequentá-lo como ouvinte sem custo.
Qual é a política de reembolso?
Se você se inscrever, terá 7 dias para testar sem custo e, durante este período, pode cancelar sem multa. Depois disso, não reembolsamos, mas você pode cancelar sua inscrição a qualquer momento. Veja nossa política para o reembolso total.
Existe algum auxílio financeiro disponível?
Sim, a Coursera oferece auxílio financeiro ao aluno que não possa pagar a taxa. Faça a solicitação clicando no link Auxílio Financeiro, abaixo do botão "Inscreva-se" à esquerda. Preencha uma solicitação e será notificado caso seja aprovado. Você terá que completar esta etapa para cada curso na Especialização, incluindo o Trabalho de Conclusão de Curso. Saiba mais .
What level of programming is required to do this course?
You will need good python knowledge to get through the course.
How difficult is this course in comparison to the other two of this specialization?
This course is significantly harder and different in style: it uses more abstract concepts and requires much more programming experience than the other two courses. Therefore, when you complete the full specialization, you will be equipped with a much more diverse set of skills.
Ganharei créditos universitários por concluir o curso?
Este curso não oferece créditos universitários, mas algumas universidades podem aceitar certificados de cursos que podem ser convertidos em créditos. Entre em contato com sua instituição para saber mais. Com os cursos on-line e os certificados Mastertrack™ do Coursera, é possível ganhar créditos universitários.
Mais dúvidas? Visite o Central de Ajuda ao Aprendiz.
