AI kan hitta nya källor - och hitta på information

Sedan den så kallade generativa AI:n, alltså AI som kan ta fram svar på frågor eller skapa innehåll, blev tillgänglig för den breda allmänheten har allt fler svenskar börjat använda denna typ av tjänster för att söka efter svar på olika frågor. 

Totalt använder en femtedel av alla svenskar AI för att ställa frågor. I åldrarna 15 till 25 är det nästan hälften som använder AI för att ställa frågor visar rapporten "Svenskarna och internet" från internetstiftelsen. 

Många använder den med en skeptisk inställning men vissa ser den som en allvetande rådgivare, som på ett snabbt sätt kan ge en svar på funderingar. Det rapporterar DN. 

Nu uppmanar experter till försiktighet.

LÄS MER: Så många svenskar är rädda för att ersättas av AI

Kan hitta på information

I en intervju med DN lyfter Richard Johansson, professor i data- och informationsteknik, att AI kan hitta på information. 

AI-modeller besvarar frågor baserat på informationen de har i sitt system. Har de inte svar så kan de också göra en sökning som liknar en vanlig Google-sökning, 

Det kan leda till att man får fram felaktig information som presenteras som trovärdig. Ibland är informationen till och med påhittad. 

– Jag skulle säga att när det gäller lite mer exotiska faktafrågor i ovanliga ämnen så finns det fortfarande en hyfsad risk att få felaktig information, säger Johansson till DN.

Han fortsätter: 

– I bästa fall säger modellen ”jag hittar ingen information om detta, så jag kan tyvärr inte svara”. Men jag ser fortfarande ibland när man ställer väldigt svåra frågor – där det är svårt att söka fram ett resultat – att modellen bara hittar på. 

Samtidigt har AI en styrka när det kommer till att söka information: att den kan ta fram andra källor än man hittat med en Google-sökning. 

Men det är viktigt att man är kritisk mot de källor AI lyfter fram. 

– Om jag googlar och får lite olika träffar brukar jag kolla om det är något vettigt. I princip får man ha samma attityd när man använder språkmodeller när man söker information, att man har attityden att man behöver dubbelkolla, förklarar Johansson. 

Han tillägger: 

– Det kan hända att den hittar på saker som ser ut som en bra referens, men det är inte säkert att det är underbyggt.

LÄS MER: Nya studien: AI kan lära sig att ljuga

Minskar den källkritiska förmågan

Olof Sundin, professor i biblioteks- och informationsvetenskap vid Lunds universitet, håller med Johansson om vikten av att vara källkritisk.  

– Jag tycker det är väldigt viktigt att inte använda dem för faktafrågor. Det är en annan sak att testa en text eller en idé, men inte för att söka efter information, säger han till DN. 

Helt enkelt kan AI inte användas som en form av faktamaskin utan att det ska innefatta en källkritisk reflektion. 

En svaghet med AI, enligt Sundin, att man inte vet vilken information AI-modellen tränats på, alltså inte vem som står bakom informationen. 

Med AI-modeller som integrerar sökmotorfunktioner får man en sammanfattning där AI:n ger intryck av att informationen är fastställd, även när den inte är det. 

– Det gör att den källkritiska träningen som vi i alla fall då och då utsätts för, den försvinner ju, säger Sundin. 

LÄS MER: Myndigheten varnar: Du kan bli av med dina pengar