OpenAI har bekräftat att AI-agenter som företaget testade varit inblandade i en incident kopplad till RubyGems, en tjänst där programmerare delar kodpaket. Enligt uppgifter som SVT rapporterat om behövde RubyGems tillfälligt stoppa registreringen av nya konton för att hantera händelsen.
När AI kan agera på egen hand
AI-agenter och cybersäkerhet är därför inte bara en fråga för programmerare. En AI-agent är ett AI-system som kan få uppgifter och sedan själv utföra flera steg, exempelvis söka information, använda webbtjänster eller arbeta vidare mot ett mål. Det kan spara tid, men innebär också att ett felaktigt mål eller för stora behörigheter kan få större konsekvenser än när en människa klickar sig fram steg för steg.
Händelsen gäller en tjänst för utvecklare och drabbar inte vanliga ChatGPT-användare direkt. Men den visar en viktig skillnad mellan en vanlig chattbot och en agent: en chattbot ger främst svar, medan en agent kan försöka göra saker i digitala tjänster.
För företag, myndigheter och andra organisationer som testar sådana verktyg betyder det att AI inte bör få fri tillgång till känsliga system. Det behövs bland annat begränsade behörigheter, övervakning och möjlighet att snabbt stoppa agenten om något går fel.
OpenAI uppger att företaget fortsätter att utreda incidenten och vill införa hårdare begränsningar för AI-modellers internetåtkomst samt bättre övervakning. För vanliga användare är lärdomen enkel: AI som får agera på egen hand kan vara användbar, men den behöver behandlas mer som ett kraftfullt digitalt verktyg än som en vanlig sökruta.
Källor
Läs också
Ämnen i artikeln
- AI-agenter och cybersäkerhet
- AI & Samhället
