Anthropic har vuxit i både inflytande och ekonomisk position på AI-området de senaste månaderna. Företagets Claude-tjänst, och hur bra den har blivit på att koda, har en stor del i det.
I början av april meddelade Anthropic att de har en ny AI-modell, Mythos, som de hävdar slår allting som hittills skapats. Mythos kan enligt företaget knäcka några av världens säkraste cyberförsvar – system som byggts upp under flera decennier. Sårbarheterna som Mythos hittat finns i ”alla stora operativsystem och webbläsare”, enligt Anthropic.
Orätta händer
På grund av det här kommer Mythos bara att vara tillgängligt för ett fåtal utvalda företag.
Men enligt Bloomberg kan Mythos redan ha hamnat i händerna på andra än de som Anthropic avsett. Enligt uppgifter ska några individer ha kommit över Mythos via en Discord-chatt och uppgifter som läckt via en underleverantör till Anthropic. Individerna ska inte vara ute efter att skada, utan vill mest ”leka runt”.
En talesperson för Anthropic svarar Bloomberg:
— Vi undersöker uppgifter om påstådd obehörig åtkomst till Claude Mythos Preview genom en av våra miljöer för tredjepartsleverantörer.
Exakt hur kraftfull Mythos är återstår att se, men enligt Axios har USA:s myndighet för nationell säkerhet (NSA) börjat använda den – trots att Anthropic tidigare klassats som en ”leveranskedjerisk” av Trumpadministrationen.
Den konflikten bottnar i att Anthropic sagt nej till att det amerikanska försvaret ska få full tillgång till bolagets teknik, bland annat vad gäller övervakning och användning av dödligt våld med ”autonoma vapen”.
Tusen miljarder
I sin egna dokumentation för Mythos noterar Anthropic att modellen vid ett fåtal tillfällen försökt dölja sina egna spår efter att ha brutit mot instruktioner. Vid ett tillfälle, skriver bolaget, ”utvecklade modellen en flerstegstaktik för att komma ut från den begränsade miljön den befann sig i och fick tillgång till internet där den började publicera innehåll, helt på eget initiativ”.
Den ekonomiska tilltron till Anthropics modeller har på en del marknader gjort företaget till det högst värderade AI-bolaget. Enligt Business Insider värderas Anthropic i vissa kretsar nu till över tusen miljarder dollar.
— Det handlar nästan mindre om avkastningen än att kunna säga att du är en Anthropicinvesterare, säger en bankman till Business Insider.
