UFRGS · Deep Learning

GNNs — Graph Neural Networks

Prof. Anderson Rocha Tavares

Slides interativos para a aula de Graph Neural Networks. Navegue pelos blocos abaixo e clique em qualquer slide para abri-lo.

Bloco 1 — Motivação e Fundamentos

Por que Grafos?

Motivação para dados relacionais e estruturas não-euclidianas — redes sociais, moléculas, grafos de conhecimento.

Grafos estão em todo lugar

Domínios de aplicação — redes sociais, moléculas, internet, biologia, recomendação e knowledge graphs.

O que é um Grafo?

G = (V, E): nós e arestas com atributos. Representações: matriz de adjacência e lista. Toggle para grafos direcionados e ponderados.

Tarefas em Grafos

Três tipos de tarefa: classificação de nós (✓/✗), predição de arestas e classificação de grafos — com exemplos reais.

Detecção de Bots

Exemplo de node classification: bot vs usuário legítimo em rede social. Cada nó tem 2 atributos: idade e posts nos últimos 7 dias.

Bloco 2 — Message Passing

Por que MLP Não Resolve?

Comparação MLP vs GNN — o MLP ignora a estrutura do grafo; GNNs propagam informação pela topologia da rede.

Message Passing

O paradigma de message passing em grafos — intuição e formalização da propagação de informação entre vizinhos.

Etapa 1: Gather

Gather — coleta das mensagens dos nós vizinhos. Primeiro passo do ciclo de message passing com exemplo visual.

Etapa 2: Aggregate

Aggregate — combinação das mensagens coletadas usando funções como sum, mean ou max.

Etapa 3: Update

Update — atualização do embedding do nó a partir da sua representação atual e das mensagens agregadas.

Operações em Paralelo e Formulação Matricial

Todos os nós executam gather→aggregate→update simultaneamente. A operação pode ser expressa matricialmente com H' = σ(ÃHW).

Embeddings de Arestas e do Grafo

Além dos nós, arestas podem ter seus próprios embeddings e o grafo pode ter um estado global — troca de mensagens entre todos.

Empilhando Camadas

Campo receptivo cresce com o número de camadas L — visualize como a informação se propaga a distâncias maiores.

Bloco 3 — Atenção em Grafos

GNN como Convolução Generalizada

Comparação CNN vs GNN — kernel em grade regular vs agregação em grafo irregular. CNN é um caso especial de GNN!

Limitação do Pooling Uniforme

Por que pesos iguais para todos os vizinhos é problemático — toggle para ver o efeito com e sem atenção.

Graph Attention Network (GAT)

Exemplo numérico de atenção no GAT com matrizes, vetores e pesos α calculados por softmax.

GAT: Attention Passo a Passo

Walkthrough de 5 passos: inicialização → projeção → scores → softmax → agregação ponderada, com animações no grafo.

Bloco 4 — Conexões e Treinamento

Transformers e GNNs são Primos

Self-attention = message passing em grafo completo. Toggle para ver Transformer como GNN esparso.

Cabeça de Predição: do Embedding à Tarefa

Como o MLP usa embeddings finais da GNN para tarefas de nó, aresta e grafo, com readout e embedding global.

Indutivo vs Transdutivo

Comparação visual entre aprendizado transdutivo (um único grafo, Cora/Citeseer) e indutivo (novos grafos, GraphSAGE/moléculas).

Classificação de Nós

Splits treino/val/teste em um único grafo — animação de propagação de embeddings dos nós de treino para o restante.

Predição de Arestas

score(u,v) = σ(hᵤ · hᵥ) — calcule scores para pares candidatos e veja a aresta de maior probabilidade ser prevista.

Bloco 5 — Conclusão

Split Correto em Link Prediction

Sequência de grafos completo → treino → validação → teste, mantendo message edges e supervision edges disjuntas.

Resumo: Graph Neural Networks

Pipeline completo e 5 conceitos-chave apresentados de uma vez, com demo interativa de seleção de tarefa.