IA Constitucional
term_id: constitutional_ai
Category: application_paradigms
Definition
A IA Constitucional é uma estrutura para alinhar grandes modelos de linguagem com os valores humanos sem depender exclusivamente do feedback humano para cada etapa. Envolve a criação de uma ‘constituição’ de princípi
Summary
Um método para treinar modelos de IA para seguir diretrizes de segurança por meio de autocrítica baseada em um conjunto predefinido de princípios.
Key Concepts
- Autocorreção
- Alinhamento
- Treinamento Baseado em Princípios
- Alternativa ao RLHF
Use Cases
- Redução de saídas prejudiciais em LLMs
- Melhoria da utilidade e honestidade do modelo
- Escalonamento eficiente do treinamento de segurança