Säkerhet
term_id: safety
Category: ethics_safety
Definition
AI-säkerhet är ett multidisciplinärt fält fokuserat på att förhindra ogynnsamma utfall från avancerad artificiell intelligens. Det omfattar tekniska utmaningar såsom alignering, tolkbarhet och robusthet, samt etiska och regulatoriska aspekter av AI-utveckling.
Summary
Studiet och praktiken av att säkerställa att AI-system inte orsakar fysisk, digital eller samhällsskada.
Key Concepts
- Värdealignering
- Tolkbarhet
- Styrteori
- Riskbedömning
Use Cases
- Utveckling av nödstopp för autonoma fordon
- Revision av algoritmer på bias
- Skapande av regulatoriska ramar för AI-implementering