OpenAI uppger att den kommande modellen Astra har nått en ny och allvarlig nivå av AI med cyberförmåga. Enligt företaget kan modellen, med rätt tillgång till verktyg och system, hitta tidigare okända säkerhetsbrister och ta fram sätt att utnyttja dem utan att en människa behöver styra varje steg.
När hjälpen också kan bli ett säkerhetshot
Det betyder inte att Astra blir fritt tillgänglig för sådana uppgifter. Tvärtom säger OpenAI att modellen ännu inte har fått en bred lansering. De mest avancerade funktionerna för cybersäkerhet ska först testas av en begränsad grupp, medan åtkomst för försvarsarbete planeras att byggas ut stegvis.
För vanliga användare är nyheten viktig eftersom den visar att AI inte längre bara handlar om att skriva texter, sammanfatta dokument eller skapa bilder. Modeller kan allt oftare arbeta i flera steg, använda digitala verktyg och genomföra mer avancerade uppgifter på egen hand.
Det kan vara värdefullt för säkerhetsexperter som letar efter svagheter innan brottslingar hinner utnyttja dem. Men samma förmåga kan också missbrukas. Därför har OpenAI lagt till fler kontroller som ska känna igen riskfyllda förfrågningar, stoppa obehöriga åtgärder och kräva att användaren granskar vissa steg.
I praktiken kan det innebära att en AI-tjänst ibland bromsar eller pausar även legitimt arbete. OpenAI säger att det kan hända när systemet misstänker att en uppgift kan kopplas till it-angrepp, eller när en AI arbetar länge och självständigt. Företaget beskriver detta som en medveten försiktighetsåtgärd medan skydden testas.
För svenska arbetsplatser är lärdomen enkel: ju mer självständigt AI kan arbeta i företagets system, desto viktigare blir tydliga behörigheter, mänsklig kontroll och rutiner för vad verktyget faktiskt får göra. Den nya modellen är ännu inte vardagsteknik för de flesta, men den visar varför säkerhetsfrågan blir allt mer konkret när AI får större handlingsutrymme.
Källor
Läs också
Ämnen i artikeln
- AI med cyberförmåga
- AI & etik
