Företaget Anthropics senaste AI-modell, kallad Claude Mythos, är egentligen skapad för att förstå kod och skriva program.
Men eftersom programmering och dataintrång rent tekniskt liknar varandra, har maskinen visat sig vara en mästare på att hitta allvarliga svagheter i de underliggande system som hela vårt moderna samhälle vilar på. Ett av systemen där man redan hittat säkerhetshål är Linux, en programvara som fungerar som en grundsten i nästan all dagens teknik.
Tidigare har det krävts månader, ibland år, av arbete från extremt skickliga mänskliga experter för att hitta den här typen av dolda sårbarheter. Enligt Svenska Dagbladet väcker det nu stor oro att vanliga hackergrupper eller främmande makter plötsligt kan använda AI för att utföra avancerade attacker utan att själva besitta djupt tekniskt kunnande.
"Akut"
Om samhällsviktig infrastruktur angrips slår det direkt mot vår vardag. Skulle strömmen försvinna stannar transporterna, mobilnäten dör och vi förlorar snabbt tillgången till renat dricksvatten. Även det helt digitaliserade banksystemet, våra bilar och flygplan är i farozonen om fel personer får fri tillgång till tekniken.
Pontus Johnson är professor i cybersäkerhet vid Kungliga Tekniska högskolan och han anser att viktiga samhällsinstitutioner omedelbart bör gå upp i stabsläge.
– Jag har inte sett ett cyberhot som har varit så akut någonsin, säger Pontus Johnson till Svenska Dagbladet.
Han menar att de kommande månaderna är en särskilt riskabel period och uppmanar till extraordinära resurser för att skydda kritiska system.
– Om någon lyckas hacka sig in i Svenska Kraftnäts datorsystem kan de stänga ner hela det svenska elkraftnätet. Och görs det skapas en slags postapokalyptisk värld ganska snabbt, förklarar professorn för tidningen.
Arbetar med andra teknikjättar
Anthropic är själva medvetna om riskerna. Företagets vd Dario Amodei anser att Mythos-modellen är för kraftfull för att i nuläget lanseras brett till allmänheten.
För att förhindra att tekniken missbrukas har bolaget dragit i gång "Project Glasswing". Där arbetar de nu intensivt tillsammans med flera andra teknikjättar, bland annat Apple, Google, Microsoft och Amazon, för att snabbt spåra och lappa igen säkerhetshålen i våra digitala system.
