클리핑Definition딥러닝 엔지니어링에서 클리핑은 일반적으로 그래디언트에 적용되어 폭발하는 그래디언트(Exploding Gradient) 문제를 완화하고 역전파의 안정성을 보장합니 …engineering_practice ★3/5
발산(Divergence)Definition최적화 관점에서 발산은 모델의 파라미터 업데이트가 손실을 감소시키지 않고 오히려 증가시킬 때 발생합니다. 이는 종종 NaN 값이나 무한大的인 그래디언트, …basic_concepts ★2/5
