Suojaratat
term_id: guardrails
Category: application_paradigms
Definition
Suojaratat viittaavat joukkoon ohjelmistokontrolli- ja politiikkojen täytäntöönpanokerroksia, jotka on integroitu tekoälysovelluksiin, erityisesti suurkielimalleihin, varmistamaan turvallinen ja sääntöjen mukainen toiminta. Ne toimivat suodattimina, jotka valvovat syöte- ja lähtötietoja.
Summary
Turvamekanismit, jotka on suunniteltu rajoittamaan tekoälymallien tuloksia haitallisen, harhaanjohtavan tai luvattoman sisällön tuottamisen estämiseksi.
Key Concepts
- Syötteen/lähdön suodatus
- Politiikan täytäntöönpano
- Myrkyllisyyden tunnistus
- Prompt-injektion torjunta
Use Cases
- Yrityschatbotit, jotka vaativat tiukkaa brändiyhteensopivuutta
- Terveysalan avustajat, jotka varmistavat lääketieteellisen tarkkuuden ja tietosuojan
- Asiakaspalvelubotit, jotka ehkäisevät loukkaavaa kieltä