OpenAI inför stegvis osynlig märkning av vissa texter som skapas eller bearbetas i ChatGPT inom EU. Vattenmärkning i ChatGPT berör därmed även svenska användare. Syftet är att göra AI-text lättare att identifiera, men märkningen är inte ett säkert bevis på hur en text har skrivits. SVT rapporterade om förändringen den 8 oktober.
Ordvalen får ett mönster som kan upptäckas
Beskedet kom från OpenAI den 5 oktober och gäller en utrullning under de följande veckorna. Det innebär inte att alla texter redan är märkta. Företaget beskriver förändringen som ett sätt att möta EU:s krav på att AI-genererad text ska kunna identifieras maskinellt.
En vattenstämpel är här ingen synlig symbol. I stället påverkas AI-systemets ordval så att texten får ett statistiskt mönster. Ett särskilt kontrollverktyg kan sedan leta efter mönstret. Verktyget öppnas inledningsvis bara för godkända forskare och expertorganisationer, inte för allmänheten.
Det finns viktiga begränsningar. Korta texter är svårare att kontrollera, och ändringar i formuleringarna kan försvaga märkningen. Verktyget kan både missa märkt text och felaktigt hitta en märkning där ingen finns. Att kontrollen inte hittar något är därför inget bevis på att en människa har skrivit texten utan AI-hjälp.
För skolan är skillnaden särskilt viktig. AI-forskaren Peter Funk vid Mälardalens universitet säger till SVT att en sådan kontroll inte ensam bör användas som bevis för att en student använt AI. En indikation från ett verktyg är alltså inte samma sak som en säker bedömning av studentens arbete.
Märkningen avslöjar inte användarens identitet, frågor eller samtal. Den visar inte heller hur mycket en människa har bidragit till texten eller om innehållet är sant. För läsaren är detta därför ett möjligt stöd för att förstå textens ursprung – inte en sanningskontroll.
Källor
Läs också
Ämnen i artikeln
- Vattenmärkning i ChatGPT
- AI & etik
