Expert efter Open AI-kaoset: Vi bör vara oroliga

Open AI har ett upplägg som skiljer sig från de flesta andra amerikanska företag. Företaget bildades som en icke-vinstdrivande organisation. Men för att ändå kunna ta in de stora summor pengar som behövs för att utveckla AI skapade man en vinstdrivande enhet. Styrelsen skulle se till att vinst- eller utvecklingsjakten inte skedde på bekostnad av säkerheten.

— Den har en märklig dubbel struktur. Den har en ickevinstdrivande del och en vinstjagande del. Det verkar som att den strukturen helt misslyckades och nu antagligen kommer att bli till stort del bli vinstbaserad, säger Toby Walsh.

Han är professor i AI och chefsforskare vid AI-institutet vid australiska universitetet UNSW. Han ser det som att Open AI:s resa mot ett mer traditionellt, vinstdrivande företag inleddes när Microsoft blev storinvesterare. Först med 1 miljard dollar 2019, sedan ytterligare 10 miljarder i januari i år.

— Det var en tickande bomb sedan Microsoft gick in de tio miljarderna. Idén att inte vara vinstdrivande har gått upp i rök.

Toby Walsh beskriver Microsoft som den stora vinnaren.

— De har blivit mycket mer centrala för Open AI framgent, och att de inte redan har en plats i styrelsen är förvånande. Men jag skulle inte bli överraskad om den nya styrelsen är temporär, och när dammet lägger sig så kommer vi ha någon slags Microsoftnärvaro i Open AI.

För farlig AI?

Enligt uppgifter till Reuters är en utlösande faktor till att Open AI:s vd Sam Altman fick sparken att flera anställda AI-forskare i ett brev till varnade styrelsen för en ny upptäckt som kan utgöra ett hot mot mänskligheten.

— Jag misstänker inte att Open AI i hemlighet utvecklat en hemlig AGI, utan att de helt enkelt litade på Sam. I uttalandet när de sparkade honom skrev de att han inte varit uppriktig mot dem, vilket betyder att han ljugit, säger Walsh och fortsätter:

— Jag misstänker att det rör sig om små, obetydliga saker. Men problemet är att om han ljuger om det här nu, kommer han att ljuga igen när styrelsen behöver raka svar?

AGI – artificiell generell intelligens – är ett svårdefinierat uttryck som ungefär betyder en så pass avancerad AI att den är "smartare" än en människa. Det har spekulerats i att styrelsen ansåg att Open AI gick för fort framåt med sin teknik.

Toby Walsh säger att vi bör vara oroliga för AI-utvecklingen.

— Vi bör vara både upprymda och nervösa för riktningen och farten som AI utvecklas i. Jag tror att det kommer att vara lika omvälvande som internet, kanske lika mycket som elektriciteten.

Han poängterar att Open AI närmar sig en miljard dollar i årlig omsättning, i princip ett år efter att Chat GPT lanserades.

— Det är den snabbaste tillväxthistorien i Silicon Valley.

Krav på regleringar

Samtidigt konstaterar Walsh att kaoset kring Sam Altman den senaste veckan skadat förtroendet.

— Om jag vore en företag som använde mig av Open AI, så skulle jag fundera på: Kommer det ens att finnas kvar nästa helg?

Det har också väckt frågor om det är rätt att lämna över ansvaret för AI till företag. Flera tunga namn, däribland AI-profilen och professor emeritus Gary Marcus, har undertecknat ett öppet brev till EU där man varnar för att utarma en kommande AI-lag, vilket Marcus befarar får "förödande konsekvenser för världen".

— Det här belyser att vi antagligen behöver regeringar som går in och sätter in lämpliga säkerhetsregleringar. Idén att företag kan reglera sig själv verkar avlägset, och ännu mer avlägset nu efter den här sagan/komedin som utspelat sig inom Open AI, säger Toby Walsh.