AI-säkerhet
term_id: ai_safety
Category: ethics_safety
Definition
AI-säkerhet omfattar forskning och praktiker som syftar till att säkerställa att autonoma system beter sig på ett sätt som är gynnsamt och ofarligt för människor. Det adresserar risker såsom bias, desinformation och säkerhetshot.
Summary
Ett forskningsområde fokuserat på att förhindra oavsiktliga skadliga konsekvenser från avancerade artificiella intelligenssystem.
Key Concepts
- Robusthet
- Riskbedömning
- Nödsäkringar
- Transparens
Use Cases
- Reglering av autonoma fordon
- Validering av medicinska diagnostikverktyg
- System för detektions av finansiell bedrägeri