Måndag 27 Jun
Stockholm

AI-chefen: Vissa områden borde vara förbjudna

Framtidens AI är förmodligen inte människosmarta robotar, utan snarare vardaglig teknik som förhöjer livskvaliteten. I alla fall om IBM:s AI-chef Seth Dobrin får sia.
Framtidens AI är förmodligen inte människosmarta robotar, utan snarare vardaglig teknik som förhöjer livskvaliteten. I alla fall om IBM:s AI-chef Seth Dobrin får sia. Foto: TT

Robotar är inte framtiden och artificiell intelligens behöver regleras för samhällets bästa. Enligt IBM:s AI-chef Seth Dobrin måste människan hela tiden vara i fokus:Hittills så har sektorn varit relativt dålig på det. Det har varit fokus på experimenterande och saker som inte löser faktiska problem.

Kommentera
Kopiera länk
Dela
Fakta: Artificiell intelligens

Tanken med artificiell intelligens (AI) är att på konstgjord väg efterlikna hjärnans förmåga att inhämta kunskap, dra slutsatser, planera, lösa problem eller att tolka resultat.

AI är vanligt förekommande i fiktion och tar då ofta en form som är långt från var tekniken befinner sig i verkligheten. En mänskligt tänkande robot är i vetenskaplig bemärkelse i princip omöjlig. AI blir dock allt vanligare i vardagen i allt från så kallade chatbottar som kan användas i kundtjänster till analyserande AI som ur en stor mängd data kan komma fram till en diagnos eller optimal färdväg.

Forskningsområdet fick sitt namn under 1950-talet och har inslag av matematik, informationsteknik, filosofi, lingvistik, psykologi, kognitionsvetenskap och hjärnforskning. Verktygen är oftast algoritmer av olika slag, där en algoritm kan beskrivas som en systematisk procedur som i ett antal steg anger hur ett visst problem ska beräknas eller analyseras. Exempelvis en karttjänst i mobilen som ger förslag på snabbaste bilväg till ett specifikt resmål.

Källa: Nationalencyklopedin, Nature

Artificiell intelligens (AI) utmålas inte sällan av filmindustrin som något nära förestående och skrämmande. Robotar som tar över världen, smarta system som löper amok och människor som står handfallna inför den digitala värld de har byggt upp.

Seth Dobrin, AI-chef på techjätten IBM och nyligen på tillfälligt besök i Sverige, är väl medveten om den populärkulturella bilden av sitt ansvarsområde, men är snabb med att avfärda de stora farhågorna:

— Det finns en uppsjö av filmer och tv-serier som är väldigt engagerande där man får en bild av vad AI kan komma att vara. Då handlar det ofta om generell AI och det kommer att ta en väldigt lång tid innan vi tekniskt når dit.

Generell AI är något förenklat den traditionella bilden av en robot. En skapad men autonom och tänkande "individ" som medvetet kan lära sig av sin omgivning och påverka densamma. Enligt Dobrin är det först "våra barnbarn" som behöver oroa sig över en eventuell robotrevolution, men förmodligen inte då heller. Den samlade akademiska världen ifrågasätter starkt om det över huvud taget går att skapa medvetande.

Alan Winfield, professor i robotetik vid Bristols universitet i Storbritannien, har liknat dagens AI och utvecklingen som skulle krävas för generell AI med "dagens rymdfärder och praktiska rymdfärder snabbare än ljusets hastighet".

För Dobrin är det dock viktigt att redan nu få in ett utvecklingstänk där människan sätts i centrum, oavsett om robotar eller kartnavigering är målet.

— Det handlar om att vi behöver titta på det ur ett holistiskt perspektiv, hur kan AI tjäna människan och inte tvärtom.

Seth Dobrin förespråkar "etisk AI", att hela tiden ha människan i fokus, speciellt när det kommer till saker som rör människors "hälsa, ekonomi och arbete".

Etisk AI

Dobrin understryker att det inte är ett enkom altruistiskt skapande han efterfrågar, snarare en förståelse för att en AI-utveckling där människan sätts i centrum kan gynna både individer och företag som är intresserade av ekonomisk vinst.

— Man måste verkligen förstå vad det är för mänskligt problem som behöver lösas. Vad vill du uppnå? Vad finns det för värde för dig som företag eller myndighet av lösningen? Vilka människor kommer att påverkas? Vilka kommer att använda tekniken? Varför byggs den? Att förstå det är väsentligt för att få fram AI som bidrar till samhället och fundamentalt när det kommer till saker som tillit.

Dobrin exemplifierar med ett tidigare projekt han jobbade på där en app byggdes för att underlätta för indiska lantbrukare. Problemet var bara att ingen av lantbrukarna hade smartphones.

— Rent tekniskt hade vi löst ett affärsproblem, men en app skulle inte ha något värde för människorna vi försökte nå.

Integritet och reglering

En annan vanligt förekommande bild av AI i populärkulturen är den av ett allseende övervakande samhällsöga som granskar din vardag in i minsta detalj. Enligt Dobrin är övervakning ett område som definitivt behöver regleras, han ifrågasätter även om vissa områden borde utforskas alls.

— IBM som företag beslutade för ett par år sedan att vi inte längre tänker sälja generell ansiktsigenkänningsmjukvara. Vi stödjer heller inte massövervakning genom ansiktsigenkänning, den typen av saker. Vi behöver verkligen fundera över om vi ska använda ansiktsigenkänning inom det polisiära, säger han och fortsätter:

— Det finns också saker vi inte borde göra med AI, saker som borde vara förbjudna. Och där tycker jag EU gör det väldigt bra. När det gäller regleringen är GDPR ett bra exempel. Det är standarden som de flesta globala bolag jobbar mot. Det gör AI mindre läskigt.

Dobrin anser att reglering behöver vara specifik och riktad snarare än generell och övergripande för att ha störst effekt, men även för att öka förståelsen för och acceptansen av AI i samhället.

— Självklart vill man ha en avsevärd nivå av opartiskhet, säkerhet och transparens om det är saker som påverkar en människas hälsa, ekonomi eller arbete.

Seth Dobrin tycker det är problematiskt att mycket AI-arbete utförts av "vita snubbar som ser ut som jag" och förespråkar tydligare och bättre mångfald inom området framåt.

Mångfald en nyckel

Inom AI-fältet har det de senaste åren funnits en växande debatt kring vem det är som bygger AI, de bakomliggande algoritmerna och hur utvecklarnas personligheter påverkar det som skapas.

— Det är ett stort problem. AI har i stort utvecklats av vita snubbar som ser ut som jag.

Dobrin säger att mer måste göras på området:

— Det är inte bara rätt sak att göra det finns också studier som visar att det är rätt ur affärssynpunkt. Team med mångfald presterar bättre än andra. Det handlar inte bara om män och kvinnor, eller hudfärg, eller ålder. Det handlar om kultur, språk olika socioekonomisk bakgrund och kognitiva olikheter, säger han och fortsätter:

— Det är otroligt viktigt. För att AI ska vara framgångsrikt behöver det vara byggt av människor som representerar det samhället det används i.

TT
Kommentera
Kopiera länk
Dela

Notifieringar

Slå på notifieringar för att få de senaste nyheterna från Nyheter24.