헌법적 AI
term_id: constitutional_ai
Category: application_paradigms
Definition
헌법적 AI는 모든 단계에서 인간 피드백에만 의존하지 않고 대규모 언어 모델을 인간의 가치와 정렬시키기 위한 프레임워크입니다. 이는 상위 수준의 원칙들로 구성된 ‘헌법’을 작성하고 이를 사용하여 모델을 조정하는 과정을 포함합니다.
Summary
사전 정의된 원칙 집합에 기반한 자기 비판을 통해 AI 모델이 안전 가이드라인을 따르도록 훈련시키는 방법론.
Key Concepts
- 자기 수정
- 정렬(Alignment)
- 원칙 기반 훈련
- RLHF 대체 방안
Use Cases
- LLM의 유해 출력 감소
- 모델의 유용성과 정직성 향상
- 안전 훈련의 효율적 확장