Aprendizado de Preferências
term_id: preference_learning
Category: training_techniques
Definition
O aprendizado de preferências concentra-se em ensinar os modelos a distinguir entre boas e más saídas com base em julgamentos humanos, em vez de rótulos absolutos. Geralmente envolve a coleta de pares de respostas onde os seres humanos indicam qual resposta é preferível.
Summary
Uma técnica que treina modelos para alinhar as saídas com as preferências humanas usando feedback comparativo.
Key Concepts
- Feedback Humano
- Comparação Pareada
- Modelagem de Recompensa
- Alinhamento
Use Cases
- RLHF para LLMs
- Sistemas de recomendação
- Filtragem de moderação de conteúdo