ViT - Visual Transformers

Toggle entre entrada textual e genérica — mostra que Transformer opera sobre sequências de tokens, não apenas texto.

Grade 8×8 com controle de tamanho de patch (2×2, 4×4, 8×8) — visualize como patches formam uma sequência.

Clique em patches individuais para ver o pipeline: patch → achatamento → projeção linear → embedding.

Embaralhe e restaure patches de uma imagem — veja como a estrutura espacial se perde sem embedding posicional.

Pipeline passo a passo com revelação progressiva dos componentes: patches → embeddings → encoder → representações.

Cálculo dos pesos de atenção entre patches: produto interno Q·Kᵀ, divisão por √dₖ e softmax linha a linha — resultado é a matriz S.

Multiplicação da matriz de atenção S pelos values V — gera o embedding contextual de cada patch, misturando informação de toda a imagem.

Clique em um patch para ver as conexões de atenção com outros — linhas de força variável mostram quem "conversa" com quem.

Arquitetura interna do bloco encoder: LN → MHA → ⊕ → LN → MLP → ⊕, repetido L vezes — clique em cada componente para ver a explicação detalhada.

Percorre o pipeline end-to-end — imagem → patches → projeção → token [CLS] + embeddings posicionais → blocos encoder → classificação — com cálculos matriciais e heatmap de atenção multi-cabeça.

Convolução local animada (kernel 3×3 sobre canvas 9×9) vs. atenção global do ViT — barras de acurácia por tamanho de dataset (ImageNet, JFT-300M) e insight final sobre indutividade.