Programa de Verão do LNCC
Jornada de Ciência de Dados (14-18/fev)

MC03-CD.Deep Learning

Professor: Eduardo Bezerra (CEFET/RJ)
Carga Horária: 6h
Período: 14/02/2022 a 17/02/2022
Dias e Horários: 2a a 5a feira de 15:45h às 17:15h

Sumário

O objetivo do mini-curso é apresentar uma introdução à aprendizagem profunda. São apresentados conceitos básicos da area, técnicas relacionadas ao treinamento e a avaliação de modelos. São também descritas algumas das principais arquiteturas de redes profundas, além de algumas aplicações. São apresentados exemplos de código por meio do framework PyTorch.

Plano

1. conceitos básicos de RNAs;
2. técnicas de treinamento (parte 1); redes MLP;
3. técnicas de treinamento (parte 2); redes de convolução;
4. redes recorrentes (LSTMs); considerações finais.

Material

• Aula 1  (14/fevereiro): slides, video
• Aula 2 (15/fevereiro): notebook, video
• Aula 3 (16/fevereiro): notebook, video
• Aula 4 (17/fevereiro): slides, notebook, slides, video
• Aula extra – redes recorrentes: slides, notebook

Additional Resources

• Neural Networks and Deep Learning (Michael Nielsen’s book)
• Deep Learning Book  (Goodfellow et al’s book)
• Introdução à Aprendizagem Profunda
• Machine Learning Yearning (Andrew Ng’s book)
• Deep Learning Specialization (Coursera Course)
• CS231n: Convolutional Neural Networks for Visual Recognition
• The Unreasonable Effectiveness of Recurrent Neural Networks
• Understanding LSTM Networks
• Uncertainty in Deep Learning (Yarin Gal’s PhD thesis)
• Theories of Deep Learning (Course at Stanford University)
• Deep Learning Is Not Good Enough, We Need Bayesian Deep Learning for Safe AI
• Generative Adversarial Networks – Hot Topic in Machine Learning
• gans-awesome-applications
• Some cool applications of GANs