Transformers Prof. Anderson Rocha Tavares Bloco 2 · Slide 2 / 3

Bag-of-Words e TF-IDF

De um dataset de assuntos de e-mail à matriz documento–palavra

Dataset — assuntos de e-mail

Pré-processamento: minúsculas, sem pontuação, sem stopwords. Clique num documento para destacá-lo na matriz.

Vocabulário extraído

palavras únicas — cada uma vira uma coluna. Clique para destacar a coluna na matriz.

Matriz documento–palavra

Passe o mouse ou clique em uma célula para ver o cálculo detalhado.
⚠️
BoW ignora a ordem das palavras: "ganhe prêmio agora" e "agora prêmio ganhe" produzem o mesmo vetor. TF-IDF pondera pela raridade da palavra na coleção, mas o problema de ordem permanece.