ANALYS · AI OCH SAMHÄLLE
En AI kan leverera ett snabbt och övertygande svar och ändå missa det vi ville uppnå. Alignment handlar om att få systemen att följa människors avsikter och värderingar. Human-in-the-loop handlar här om att en människa deltar i beslutsflödet. Tillsammans väcker begreppen en praktisk fråga: hur får vi hjälp av AI och behåller möjligheten att säga nej?
Tänk dig en AI-tjänst som hjälper en kommun att svara på frågor. Den får höga betyg när ärenden avslutas snabbt. Men en invånare behöver en följdfråga, en tydligare förklaring och till slut kontakt med en handläggare.
Om systemet ändå försöker avsluta samtalet har det kanske lyckats med det som mäts, men missat människans behov.
Det är ett tänkt scenario, inte en dokumenterad händelse. Det visar varför bra AI handlar om mer än korrekta formuleringar: också målet behöver vara rätt.
Alignment: vad försöker AI:n åstadkomma?
Alignment handlar förenklat om att utveckla och kontrollera AI så att den agerar i linje med människors avsikter och värderingar, även när instruktionerna inte täcker varje situation.
I en forskningspresentation från DeepMind skiljer Iason Gabriel mellan två frågor. Den tekniska gäller hur värderingar och principer kan byggas in i systemens beteende. Den andra gäller vilka värderingar och principer systemen bör följa.
Det senare kan inte avgöras enbart med bättre programmering. Människor har olika intressen, och en beställares önskemål behöver inte sammanfalla med alla berördas behov.
GPTAI.se:s analys: I kommunexemplet behöver snabbhet vägas mot begriplighet och faktisk hjälp. Målet bör göra det värdefullt att be om förtydliganden eller lämna över till en handläggare när det behövs.
Det gör inte den bredare alignmentfrågan löst. Men det gör den konkret: vad belönar vi, vad kontrollerar vi och vilka följder riskerar vi att missa?
Human-in-the-loop: när människan deltar
Human-in-the-loop betyder att människor medverkar i ett systems arbetsflöde. Här fokuserar vi på granskning och beslut när AI används. För att den medverkan ska ge verklig kontroll behöver personen kunna förstå underlaget, ändra förslaget och stoppa det som inte håller.
Begreppen kan jämföras så här:
| Begrepp | Den centrala frågan |
|---|---|
| Alignment | Arbetar AI-systemet mot avsedda och försvarbara mål? |
| Human-in-the-loop | Var deltar människan, och vad kan hon påverka? |
Som ett förklarande exempel kan vi tänka oss ett nyhetsflöde för GPTAI.se, av den typ som GPTAI Newser används för att diskutera. AI:n föreslår en nyhet och skriver ett utkast. En redaktör öppnar originalkällorna, kontrollerar påståendena, ändrar texten och fattar publiceringsbeslutet.
Detta illustrerar ett möjligt arbetssätt; det är ingen granskning av hur varje produktionsflöde är konfigurerat.
GPTAI.se:s analys: Möjligheten är en arbetsfördelning där AI hjälper till med förarbetet och redaktören använder sitt omdöme för att bedöma betydelse, belägg och formuleringar. Resultatet måste fortfarande bedömas. Att både en människa och en AI varit inblandade bevisar inte att texten blivit bättre.
Ett klick är inte alltid en granskning
Den amerikanska standardiseringsmyndigheten NIST beskriver i sin rapport om bias i AI begränsningar med mänsklig medverkan som skydd. Människor har egna tankemässiga snedvridningar, och ansvarsfördelningen kan vara otydlig. Att placera en person i flödet garanterar därför inte att fel upptäcks.
En närliggande risk är automation bias: att vi förlitar oss för mycket på ett automatiserat förslag. Begreppet tas också uttryckligen upp i EU:s AI-förordning, artikel 14.
GPTAI.se:s analys: Föreställ dig att redaktören får femtio välskrivna förslag men bara tid att snabbt läsa rubrikerna. Då kan knappen ”Godkänn” ge ett starkare intryck av kontroll än arbetssättet motiverar.
Granskning behöver därför planeras som en arbetsuppgift. Personen behöver tillgång till underlaget, kunskap om ämnet och mandat att avstå. Det kostar tid och resurser, vilket behöver räknas in när nyttan med automatiseringen bedöms.
Mänsklig kontroll blir mest trovärdig när ett nej faktiskt får konsekvenser: texten stoppas, frågan utreds eller systemet ändras.
Hur mycket kontroll är rimligt?
GPTAI.se:s analys: En föreslagen färg på en presentationsbild behöver knappast samma granskning som ett underlag som påverkar en människas försörjning. Kontrollens omfattning bör följa konsekvenserna av ett fel och möjligheten att rätta till det.
I enklare uppgifter kan det räcka att resultatet är lätt att kontrollera och ångra. I känsligare användning kan det behövas granskning före beslut, tydligt ansvar och en fungerande möjlighet att stoppa flödet. Utformningen måste prövas i sitt sammanhang.
EU:s AI-förordning ger ett avgränsat exempel. Artikel 14 innehåller krav på mänsklig översyn för högrisk-AI, med möjlighet att bland annat tolka resultat, åsidosätta förslag och ingripa. Den är inte ett allmänt krav på att någon ska godkänna varje AI-åtgärd. Reglernas tillämpning följer olika tidsfrister beroende på systemkategori. Enligt EU-kommissionens aktuella tidsplan börjar huvudreglerna för högriskanvändningar enligt bilaga III tillämpas den 2 december 2027 och för berörda produktanknutna system enligt bilaga I den 2 augusti 2028. Övergångsregler kan påverka enskilda system. Källor: artikel 14 och EU-kommissionens tidsplan.
Att kunna säga nej behöver vara en del av lösningen
GPTAI.se:s slutsats: Alignment och mänsklig medverkan kompletterar varandra. Arbetet med systemens mål och beteende behöver fortsätta även när någon granskar resultaten. Och en välfungerande AI behöver ett arbetssätt där ansvar och ingripanden är tydliga.
För den som inför AI är tre frågor en bra början: Vad ska bli bättre? Hur märker vi om det blir fel? Vem kan då ändra eller stoppa arbetet?
När svaren är konkreta blir det lättare att använda AI till det den är bra på och behålla människors möjlighet att påverka det som betyder något.
