Adam?
Adam의 불충분한 데이터 변산에서 기원한 초기 학습 불안정성을 완화한 방법.
기존에 Warm-Up 방식도 있긴 했지만, 대부분 warm-up function은 사람 손에 의해 작성되고 발전했기에 어려움이 있었는데, 한 가지 solution.
Adam?
Adam의 불충분한 데이터 변산에서 기원한 초기 학습 불안정성을 완화한 방법.
기존에 Warm-Up 방식도 있긴 했지만, 대부분 warm-up function은 사람 손에 의해 작성되고 발전했기에 어려움이 있었는데, 한 가지 solution.