Forget Gate: O Que Esquecer

A primeira porta controla quanto da memória passada é preservado

🧠 LSTM — Forget Gate em Destaque

fₜ = σ(Wf · xₜ + Uf · hₜ₋₁ + bf)

📐 Exemplo Numérico (dim = 2)

dim 1

dim 2

cₜ₋₁ =

0.80 −0.50

fₜ =

0.90 0.30

fₜ ⊙ cₜ₋₁ =

0.72 −0.15

dim 1: 0.90 × 0.80 = 0.72 | dim 2: 0.30 × (−0.50) = −0.15

🔢

Sigmoid σ

Produz valores em [0, 1]. fₜ ≈ 1 = manter memória. fₜ ≈ 0 = esquecer memória.

🔍

Filtro por dimensão

Cada dimensão é filtrada independentemente. No exemplo: dim 1 preserva 90% (f=0.90), dim 2 preserva apenas 30% (f=0.30).

💬

Exemplo em texto

Quando o tópico muda, informações antigas tornam-se irrelevantes — fₜ ≈ 0 nessas dimensões.

            🎛️
            fₜ ≈ 1: manter memória / fₜ ≈ 0: esquecer memória — cada dimensão de cₜ₋₁ é filtrada de forma independente
          

✏️ Agora a porta seguinte controla o que pode entrar.