BERT
term_id: bert
Category: basic_concepts
Definition
BERT es una técnica de aprendizaje automático basada en transformadores para el preentrenamiento en PLN desarrollada por Google. Utiliza el modelado de lenguaje enmascarado y la predicción de la siguiente oración para aprender representaciones bidireccionales.
Summary
Representaciones de Codificador Bidireccional desde Transformadores es un modelo preentrenado de procesamiento del lenguaje natural.
Key Concepts
- Arquitectura Transformer
- Modelado de Lenguaje Enmascarado
- Preentrenamiento
- Ajuste Fino
Use Cases
- Sistemas de Respuesta a Preguntas
- Análisis de Sentimientos
- Clasificación de Texto