Keamanan
term_id: safety
Category: ethics_safety
Definition
Keamanan AI adalah bidang multidisiplin yang berfokus pada mencegah hasil yang merugikan dari kecerdasan buatan tingkat lanjut. Bidang ini mencakup tantangan teknis seperti penyelarasan nilai, interpretabilitas, dan ketangguhan, serta aspek sosial dan regulasi.
Summary
Studi dan praktik untuk memastikan sistem AI tidak menyebabkan bahaya fisik, digital, atau sosial.
Key Concepts
- Penyelarasan Nilai
- Interpretabilitas
- Teori Kendali
- Penilaian Risiko
Use Cases
- Mengembangkan tombol mati untuk kendaraan otonom
- Mengevaluasi algoritma untuk bias
- Membangun kerangka regulasi untuk penyebaran AI