Aprendizagem Profunda

Objetivos

No final desta Unidade Curricular, os estudantes serão capazes de:

·       Compreender os conceitos centrais, paradigmas e desafios de AP.

·       Compreender os fundamentos teóricos de AP, como backpropagation, otimização e funções de ativação.

·       Conhecer as vantagens e limitações dos modelos de AP e suas aplicações.

·       implementar e otimizar algoritmos de AP utilizando frameworks como PyTorch.

·       modelar dados experimentalmente usando as arquiteturas exploradas.

·        analisar e avaliar o desempenho dos modelos utilizando métricas e visualizações.

·       comparar e validar diferentes abordagens de AP para diversos conjuntos de dados.

·       avaliar a adequabilidade de métodos de AP para vários domínios.

·       avaliar criticamente os resultados, abordando preconceitos e questões éticas.

·       ser autonomos na aprendizagem e aplicação de avanços em AP.

Caracterização geral

Código

12423

Créditos

6.0

Professor responsável

Claudia Alexandra Magalhães Soares, João Alexandre Carvalho Pinheiro Leite

Horas

Semanais - 4

Totais - A disponibilizar brevemente

Idioma de ensino

Inglês

Pré-requisitos

A disponibilizar brevemente

Bibliografia

Zhang, A., Lipton, Z. C., Li, M., & Smola, A. J. (2023). Dive into deep learning. Cambridge University Press.

 

Bishop, C. M., & Bishop, H. (2023). Deep learning: Foundations and concepts. Springer Nature.

 

Bengio, Y., Goodfellow, I., & Courville, A. (2017). Deep learning. Cambridge, MA, USA: MIT press.

 

Método de ensino

A UC de AP adota um modelo pedagógico de aprendizagem ativa[1] e centrada no aluno, que integra recursos multimédia, plataformas colaborativas[2] e aprendizagem baseada em projetos[3] para incentivar a compreensão aprofundada e o desenvolvimento de competências práticas.

 

Integração de Recursos Multimédia:

Em cada aula há uma lista de recursos como vídeos de especialistas internacionais publicadas em plataformas abertas, blog posts escritos pelos docentes e leituras de secções de livros e artigos. Esta abordagem apoia diferentes estilos de aprendizagem e promove uma exploração aprofundada dos tópicos, incentivando a autonomia do aluno.

 

Aulas Interativas e Feedback Contínuo:

As aulas são interativas, com os docentes propondo perguntas para estimular o pensamento crítico. Esta abordagem ativa de aprendizagem envolve os alunos, permitindo que reflitam e participem nas discussões. Um formulário de feedback anónimo é utilizado para assegurar que o conteúdo e a entrega do curso permanecem alinhados com as necessidades dos alunos.

 

Colaboração Online Estruturada:

Um servidor dedicado no Discord (ou plataforma semelhante) está organizado em canais que abrangem discussões sobre aulas, tutoriais, ajuda com programação e matemática, e horários de atendimento. Canais para formação de grupos e discussão de trabalhos promovem a colaboração e o apoio entre pares. Esta estrutura promove uma experiência de aprendizagem em comunidade, 

permitindo perguntas, discussões e trabalho de grupo em tempo real, para além da sala de aula.

 

Aprendizagem Baseada em Projetos do Mundo Real:

Os trabalhos páticos são baseados em aplicações do mundo real e estudos de caso, oferecendo experiência prática. Os alunos realizam projetos que exigem a implementação, adaptação e otimização de modelos de AP em conjuntos de dados (e.g., imagem, texto e grafos). Estes projetos incentivam a aplicação prática da teoria, reforçando competências em pré-processamento de dados, construção de modelos, ajuste e avaliação.

 

Apoio Ativo Através de Tutoriais e Horários de Atendimento:

Sessões práticas semanais de exercícios, permitindo que os alunos apliquem os conceitos aprendidos em contextos de programação e modelação. Estas sessões são interativas, facilitando a resolução colaborativa de problemas e proporcionando suporte imediato do docente. Horários de atendimento estão disponíveis para apoio personalizado.

 

Aprendizagem e Revisão Entre Pares:

Os projetos incluem revisão por pares, onde os alunos avaliam o trabalho uns dos outros com base em critérios de avaliação, melhorando a compreensão através da discussão, perspetivas diversificadas e desenvolvimento de capacidades de análise crítica ao analisar diferentes abordagens para problemas semelhantes.

 

Integração Teoria-Prática e Reflexão Ética:

Uma parte central do modelo pedagógico é a integração da teoria com a prática. Adicionalmente, discussões sobre IA confiável estão presentes no currículo, incentivando os alunos a refletirem sobre o impacto societal da AP.



[1] Freeman, S., et al. (2014). "Active learning increases student performance in science, engineering, and mathematics." Proceedings of the National Academy of Sciences, 111(23), 8410-8415.

 

[2] Falchikov, N. (2001). "Learning Together: Peer Tutoring in Higher Education." Psychology Press.

[3] Krajcik, J. S., & Blumenfeld, P. C. (2006). "Project-based learning." In R. K. Sawyer (Ed.), "The Cambridge Handbook of the Learning Sciences" (pp. 317-334). Cambridge University Press.

Método de avaliação

I. Componentes de avaliação e respectivos pesos

A avaliação é constituída por dois componentes:

  • Teórico/Problemas (T) – 50% da nota final
  • Projecto (P) – 50% da nota final

II. Notas mínimas para cada componente

Para passar, os alunos devem obter:

  • Mínimo de 9,5/20 na componente teórica/problemas.
  • Mínimo de 9,5/20 na componente de projeto.

III. Elementos de avaliação e seus pesos

Componente Teórica/Problemas

  • Duas provas escritas, cada uma valendo 50% da nota T.
  • Em alternativa, os alunos podem fazer um exame escrito, que consiste em duas partes independentes, cada uma substituindo a respectiva nota do teste, se for superior.
  • Bónus: Um ponto extra pode ser atribuído com base no envio de um relatório transcrevendo e aprofundando o conteúdo de uma aula teórica OU respondendo corretamente às perguntas de outros alunos colocadas no fórum de discussão do Discord sobre tópicos relacionados com o material do curso.
  • A fórmula de classificação para T é

T = round( min{20,0, 0,5 x Teste1 + 0,5 x Teste2 + PontoExtra}, 1)

arredondado à primeira casa decimal.

Componente do Projeto

  • Duas tarefas, cada uma representando 50% da nota P.
  • A nota é individual e depende do trabalho de grupo e das avaliações individuais.
  • A fórmula de classificação para P é

P = round(0,5 x Atribuição1 + 0,5 x Atribuição2, 1)

arredondado à primeira casa decimal.

IV. Notas mínimas para os elementos de avaliação

Não há notas mínimas para testes individuais, partes de exames ou tarefas. Verifique a secção II para obter notas mínimas para os componentes T e P.

V. Fórmula de cálculo e arredondamento da nota final

  • A nota final é calculada como:

Classificação final=0,5×T+0,5×P

  • Todas as notas dos componentes individuais são arredondadas para uma casa decimal.
  • A nota final é arredondada para o número inteiro mais próximo.
  • Caso a nota final seja superior a 17/20, o aluno deverá realizar uma prova oral para defesa de nota. Após o exame oral, a nota mantém-se no mínimo 17. Se o aluno não comparecer, a nota final será definida como 17/20.

VI. Condições para Defesa de Nota

  • Obrigatório para alunos com nota final computada > 17.
  • A nota mantém-se no mínimo 17 após a prova oral.
  • Caso o aluno não compareça, a nota final será fixada em 17 valores.

VII. Condições para obtenção de frequência

A frequência é obtida mediante a entrega dos dois trabalhos.

VIII. Validade de frequência

A frequência obtida a partir da edição 2021/2022 é válida para a edição atual.

IX. Validade das Classificações Anteriores

A nota P obtida nas edições anteriores desde 2021/2022 é válida para a edição em curso.

O instrutor consultará os alunos para avaliar quais desejam manter a nota anterior.

Caso os alunos se inscrevam nas aulas de Tutoria, a nota anterior não será mantida.

X. Pré-inscrição para Elementos de Avaliação

Não há pré-inscrição para testes e exames.

XI. Período de pré-inscrição

Não aplicável.

XII. Critérios de admissão para alunos sem pré-inscrição

Não aplicável.

XIII. Instrumentos de auxílio permitidos

Nas provas escritas não são permitidos:

  • Calculadoras
  • Materiais de referência
  • Relógios inteligentes
  • Telefones

Nos exames escritos são permitidos:

  • uma folha de papel A4, escrita à mão pelo aluno, possivelmente em ambos os lados. Nos exames de duas partes, são permitidas duas folhas deste tipo, uma por parte.
  • Materiais de escrita
  • Relógio simples
  • Cartão de identificação

 

Importante: Regra aprovada pelo Conselho de Departamento de Informática em Junho de 2025

Durante uma prova de avaliação, um estudante não pode ter junto a si dispositivos electrónicos com capacidade de acesso à internet ou ligação bluetooth (e.g. smartphones, smartwatches, smartglasses, tablets, laptops, etc), ainda que desligados. A violação desta regra implica a reprovação liminar na unidade curricular por exclusão e será comunicada à Comissão Científica do respectivo Curso.

Conteúdo

Esta UC introduz técnicas fundamentais de AP, passando de princípios básicos a arquiteturas e aplicações.
-Revisão de Aprendizagem Automática
–Introdução-Diferenciação automática e Multi-Layer Perceptron (MLP)
-Normalização, inicialização de parâmetros e otimizadores
-Redes Neuronais Convolucionais (CNNs)
-Introdução à visão por computador
-Mecanismos de atenção, Transformers e modelos neuronais de PLN (Processamento de Linguagem Natural)
-Introdução a Grandes Modelos de Linguagem e introdução ao reinforcement learning
-Conceitos de reinforcement learning e implementação prática
-Redes Neuronais de Grafos (GNNs) e quantificação da incerteza nas previsões
-Modelos de difusão e aprendizagem automática confiável
As sessões práticas proporcionam experiência em problemas reais, reforçando conceitos teóricos e desenvolvendo capacidades na implementação e avaliação de modelos.

Cursos

Cursos onde a unidade curricular é leccionada: