CNNs Precisam de Muitos Dados
A rede precisa ver exemplos do mesmo padrão em contextos diferentes para aprender o que é essencial — e o que é detalhe irrelevante.
Um "X" levemente rotacionado ainda é um "X" para nós, mas para a rede é uma entrada diferente. Ela precisa ver todas essas variações para aprender invariância.
Com poucos exemplos, a rede "decora" o treinamento (overfitting) em vez de aprender padrões generalizáveis. Os filtros ficam ajustados apenas para aqueles poucos dados.
Isso vale diretamente para nosso exemplo: para aprender a detectar "X", a rede precisa ver muitas versões do X — com diferentes posições, variações de traço e orientação.
Na prática, conjuntos como ImageNet têm 1,2 milhão de imagens de treinamento. Mesmo assim, técnicas como data augmentation são usadas para criar mais variações artificialmente.