OpenAI har infört en ny funktion i ChatGPT som heter Trusted Contact. Den är tänkt att hjälpa om en vuxen användare uttrycker självskadetankar i en chatt. Då kan tjänsten uppmuntra personen att kontakta en förhandsvald närstående och även skicka en automatisk varning till den personen.
Vad betyder OpenAI inför ny säkerhetsfunktion i ChatGPT?
Funktionen är ett tydligt tecken på att AI-tjänster inte bara utvecklas för att bli smartare, utan också för att få bättre skydd i riskfyllda situationer. För många användare är det viktigt eftersom allt fler använder chattbotar som stöd i vardagen, även när samtalen blir personliga eller känsliga.
En Trusted Contact väljs av användaren själv. Det kan till exempel vara en vän eller familjemedlem. Poängen är inte att ersätta professionell hjälp, utan att snabbt få in en människa om en situation verkar allvarlig.
Det här säger också något om hur AI-bolag försöker hantera ansvar när deras verktyg används i samtal som kan påverka människors mående. I praktiken handlar det om att bygga in fler skydd innan en situation hinner bli akut.
För GPTAI.se:s läsare är nyheten relevant eftersom den visar hur AI-tjänster förändras från rena svarsmaskiner till verktyg med fler säkerhetsfunktioner och tydligare gränser för när de ska ingripa.
Källor
Läs också
Ämnen i artikeln
- OpenAI inför ny säkerhetsfunktion i ChatGPT
- AI & etik
