표현 붕괴
Definition
표현 붕괴는 특히 자기지도 대조 학습 프레임워크에서 신경망이 모든 입력 데이터 포인트를 동일한 고정 출력 벡터로 매핑하도록 학습할 때 발생합니다. 이는 모델이 …
Self Supervised
Terms tagged with Self Supervised
Terms tagged with Self Supervised
표현 붕괴는 특히 자기지도 대조 학습 프레임워크에서 신경망이 모든 입력 데이터 포인트를 동일한 고정 출력 벡터로 매핑하도록 학습할 때 발생합니다. 이는 모델이 …
예측 학습은 명시적인 인간 라벨 없이 관찰된 입력으로부터 관찰되지 않은 데이터 포인트를 추론하도록 신경망을 훈련시키는 과정입니다. 언어 모델에서의 다음 토큰 예 …
대조적 학습은 레이블이 붙은 데이터가 필요 없는 표현 학습 방법입니다. 동일한 입력의 증강된 뷰(양성 쌍)를 생성하고, 서로 다른 입력 또는 증강된 뷰(음성 …