Cho thuật toán RMSProp. Trạng thái trước: trung bình bình phương gradient s∈Rn và tham số θ∈Rn. Cho gradient g, hệ số suy giảm ρ, tốc độ học η, hằng số ổn định ϵ.
Một bước cập nhật (theo từng phần tử): s′=ρs+(1−ρ)g2,θ′=θ−ηs′+ϵg
In ra trên dòng 1 vector s′ (n số), trên dòng 2 tham số mới θ′ (n số). Tất cả làm tròn 2 chữ số.
Dòng 1: n ρ η ϵ. Dòng 2: θ. Dòng 3: s. Dòng 4: g.
1≤n≤10; 0≤ρ<1; 0<η≤1.
Dòng 1: s′. Dòng 2: θ′. Đều làm tròn 2 chữ số.
Ví dụ:
Đầu vào:
1 0.9 0.1 0.00000001
1
0
2
Đầu ra:
0.40
0.68
Giải thích:
Đang tải editor...