Sequência → Matriz de Tokens
Frase → Matriz de Embeddings
Frase de entrada:
Tokens:
↓
E
=
💡 Passe o mouse sobre um token ou uma linha da matriz para destacar a correspondência.
O que é esta matriz?
Cada linha = um token
A linha i da matriz E contém o vetor de embedding do i-ésimo token da frase.
Cada coluna = uma dimensão
As colunas d₁…d₂ representam as dimensões do espaço de embedding (na prática, centenas a milhares).
A ordem das linhas importa
Mudar a frase reordena as linhas da matriz. Experimente alternar entre as frases e observe como a matriz muda.
Atenção: neste ponto, a matriz E contém apenas os vetores léxicos — a identidade de cada token.
A posição ainda não está codificada aqui. Isso será feito no próximo slide.
"A primeira ideia importante é: o Transformer enxerga a sequência inteira como uma matriz.
Cada linha representa um token; cada coluna, uma dimensão do embedding."