OpenAI börjar rulla ut Trusted Contact i ChatGPT, en frivillig funktion för vuxna användare. Tanken är att användaren i förväg ska kunna välja en vuxen person som en vän, familjemedlem eller vårdgivare som extra stöd vid en allvarlig krissituation.
En frivillig kontaktväg vid svåra samtal
Trusted Contact i ChatGPT ska bara användas när företagets system upptäcker samtal om självskada som kan tyda på en allvarlig säkerhetsrisk. ChatGPT ska då först informera användaren om att den betrodda kontakten kan meddelas och uppmuntra personen att själv ta kontakt.
Innan någon varning skickas granskas situationen av ett särskilt utbildat team, enligt OpenAI. Om teamet bedömer att risken är allvarlig kan den valda kontakten få en avisering via e-post, sms eller i ChatGPT-appen.
Meddelandet ska vara kortfattat och inte innehålla chattinnehåll eller utdrag ur användarens konversationer. I stället får kontakten en allmän beskrivning av att kommunikationen har bedömts som oroande, tillsammans med råd om hur personen kan ta ett känsligt samtal.
Funktionen ersätter inte vård, akuthjälp eller stödlinjer. OpenAI beskriver den som ett extra skyddsnät som ska göra det lättare att nå en människa i den verkliga världen när någon kan behöva stöd.
Användaren väljer själv sin kontakt i inställningarna, och inbjudan måste godkännas av mottagaren inom en vecka. Båda parter kan senare ta bort kopplingen. OpenAI uppger också att varje säkerhetsavisering ska granskas av en människa innan den skickas.
Källor
Läs också
Ämnen i artikeln
- Trusted Contact i ChatGPT
- AI & Hälsa
