Anthropic uppger att AI hittar säkerhetshål i program med öppen källkod i en omfattning som är svår för säkerhetsteam att hantera på egen hand. Enligt företagets uppdaterade översikt har Claude använts för att rapportera 6 157 sårbarheter i 591 projekt. Av dessa ska 516 redan ha fått en åtgärd.
Människor granskar innan detaljerna offentliggörs
Det spelar roll eftersom öppen källkod ofta finns långt inne i vanliga digitala tjänster. Ett litet programbibliotek kan användas i många appar, webbplatser och företagsverktyg. När ett fel upptäcks och rättas kan det därför minska risken för att angripare utnyttjar samma svaghet på flera håll.
AI hittar säkerhetshål genom att läsa och testa programkod i stor skala, men den avgör inte ensam vad som är ett verkligt problem. Anthropic beskriver att externa säkerhetsforskare granskar fynden. Därefter får de som ansvarar för programmet informationen privat och tid att ta fram en rättelse innan detaljer blir offentliga.
Det är en viktig skillnad. AI kan ge fler ledtrådar snabbare, men ett påstått fel kan vara missvisande eller sakna praktisk betydelse. Därför behövs människor som kontrollerar fynden och utvecklare som bedömer hur programmet ska ändras utan att skapa nya problem.
För vanliga användare märks arbetet sällan direkt. Det kan i stället synas som vanliga säkerhetsuppdateringar i appar och tjänster. Nyheten visar ändå hur AI allt oftare används bakom kulisserna för att hitta digitala risker innan de blir till incidenter. Samtidigt är det klokt att fortsätta installera säkerhetsuppdateringar när de kommer, eftersom ett upptäckt fel inte är skyddat förrän en rättelse faktiskt används.
Källor
Läs också
Ämnen i artikeln
- AI hittar säkerhetshål
- AI & Samhället
