Forward Pass em uma RNN

Processando uma série de preços — a mesma célula percorre cada valor com h_t−1 acumulando contexto

▶ Passo a Passo — sequência de 3 tokens

102 t = 1

→

105 t = 2

→

98 t = 3

pronto para iniciar ▷

1 Ler a entrada x_t

2 Recuperar memória h_t−1

3 Somar: U·x_t + V·h_t−1 + b_h

4 Aplicar φ (ativação do estado)

5 Gerar novo estado h_t

6 Produzir saída o_t = ψ(W·h_t + b_o)

h_t = φ(U·x_t + V·h_t−1 + b_h)

o_t = ψ(W·h_t + b_o)

U	pesos: entrada → estado
V	pesos: estado anterior → estado
W	pesos: estado → saída
φ	ativação do estado (customizável: tanh, relu…)
ψ	ativação de saída (depende da tarefa)