Aprendizaje Autosupervisado

term_id: self_supervised_learning

Category: training_techniques

Definition

El aprendizaje autosupervisado es una técnica en la que el algoritmo crea señales supervisivas a partir de los propios datos no etiquetados, típicamente prediciendo partes faltantes de la entrada. Cierra la brecha entre el aprendizaje no supervisado y el supervisado…

Summary

Un método de entrenamiento donde el modelo genera sus propias etiquetas a partir de los datos de entrada para aprender representaciones.

Key Concepts

  • Preentrenamiento
  • Modelado de Lenguaje Enmascarado
  • Aprendizaje Contrastivo
  • Aprendizaje de Representaciones

Use Cases

  • Entrenamiento de grandes modelos de lenguaje
  • Aprendizaje de representaciones de imágenes
  • Sistemas de reconocimiento de voz

Code Example

1
null