Output Gate e Estado Oculto

A output gate controla quanto da memória interna é revelado como hₜ

🧠 LSTM — Output Gate em Destaque

oₜ = σ(Wo · xₜ + Uo · hₜ₋₁ + bo)

hₜ = oₜ ⊙ tanh(cₜ)

📐 Exemplo Numérico (dim = 2) — mesmos valores anteriores

dim 1

dim 2

cₜ =

0.96 0.41

tanh(cₜ) ≈

0.745 0.388

oₜ =

0.70 0.60

hₜ =

0.52 0.23

dim 1: 0.70 × 0.745 ≈ 0.52 | dim 2: 0.60 × 0.388 ≈ 0.23

🔒 Memória Privada vs. Pública

📐

Dimensões de Wo e Uo

Wo ∈ ℝ^{d × |x|} e Uo ∈ ℝ^{d × d}, onde d é a dimensão oculta escolhida como hiperparâmetro. Isso define a dimensão de oₜ e de hₜ. Para classificação com K classes, uma camada linear separada (W_out ∈ ℝ^{K × d}) mapeia hₜ → ŷ ∈ ℝ^K.

🧠

Cell state cₜ

Memória interna rica — pode conter muito mais do que será exposto. No exemplo: cₜ = [0.96, 0.41].

👁️

Output gate oₜ

Janela de exposição — controla o que é revelado. No exemplo: oₜ = [0.70, 0.60], produzindo hₜ ≈ [0.52, 0.23].

🔒

Privado vs. público

A rede pode lembrar sem precisar mostrar tudo — oₜ atua como filtro entre cₜ e hₜ.

⚙️ Nota sobre dimensões Wo e Uo devem ser dimensionados conforme a dimensão oculta d escolhida (hiperparâmetro). Para expor hₜ como saída de classificação com K classes, utiliza-se uma camada linear separada W_out ∈ ℝ^{K × d} após a LSTM.

            ✅
            Com isso, fechamos o ciclo completo da LSTM em um passo temporal.
          