Internetstiftelsen varnar för AI: ”Vet inte vad som är sant”

”Att fråga ett AI-verktyg är som att fråga en allvetande vän som besitter all kunskap och dessutom svarar direkt på ett artigt och fint sätt”.

Så beskriver en 25-åring hur hon använder chattbottar i stället för traditionella sökmotorer, i undersökningen Svenskarna och internet, något som var femte person i undersökningen skriver under på.

Men även om AI:n verkar tvärsäker och ha all världens kunskap så är den fortfarande på sätt och vis dum.

— Den vet ju inte vad som är sant eller falskt. Den har liksom ingen egen förståelse av världen och sätter ihop sina svar baserat på sannolikhet, säger Björn Appelgren på Internetstiftelsen.

Så hur kan man använda AI:n källkritiskt? Här är några tips.

1. Lita inte blint på den.

Man kan aldrig blint lita på generativ AI, påpekar Linda Mannila, gästprofessor vid Linköpings universitet. Chattbotten är inte en faktabank eller uppslagsverk.

— Man ska komma ihåg att svaren bygger på sannolikhet och statistik, att den sett mönster i tidigare data och utifrån det försöker den förutsäga vad som blir rätt i en ny situation.

2. Be chattbotten att redovisa källor

Språkmodellerna kan svara med en länk till informationen. Verkar ursprungskällan trovärdig? Testa också att klicka på länken (för chattbottarna kan råka hitta på länkar som inte finns).

3. Fråga: Stämmer det här?

AI-entusiasten Anders Bjarbys ”supertips” är att ställa följdfrågor. En av dem är ”Stämmer det?"

— När du skickar in frågan första gången kommer den bara att hosta ur sig det som den tycker är lämpligt. Men när du ställer frågan ”stämmer det?" så tar den i beräkningen både frågan och det förra svaret.

Appelgren är inne på samma spår:

— Nöj dig inte med första svaret. Be verktyget utveckla, resonera eller förklara igen.

4. Slå på tänkandet

Ofta går det att välja olika modeller i chattbottarna, där de "tänkande" mer avancerade modellerna generellt ger säkrare svar.

— Då kommer den resonera och sköta en del av ”stämmer det”-tänket internt i stället, säger Bjarby.

5. Slå på sök

Modellen tar ofta den enkla vägen och använder gammal träningsdata. Ber man AI:n att söka på nätet (ibland kan man behöva slå på funktionen) så kollar den upp det senaste, vilket är extra viktigt vid nyhetshändelser.

6. Fråga hur, inte vad

I stället för att be om ett svar, så kan man be AI:n resonera kring ”hur skulle du göra för att få svar på detta”. Då kan man själv avgöra om metoden verkar rimlig.

7. Efterfråga frågor

Svaren kan förbättras om du ber AI:n att ställa följdfrågor, exempelvis klargöra otydligheter i prompten. Man kan exempelvis be den att ”innan du svarar, ställ tre motfrågor”.

8. Våga vara dum och omständlig

Chattbotten kommer aldrig att bli trött på dina frågor. Våga ställ dumma frågor, och be den att förklara på ett annat sätt om du inte förstår. Modellerna kan behandla stora mängder text, så skriv utförligt om du vill.

— Inse att det bara är teknik. Det är ingen människa. Man kan invaggas i en trygghet i där man kan diskutera med sitt naturliga språk. Men bara för att det känns mer mänskligt betyder det inte att det är mer sant eller tillförlitligt än vad en Google-sökning är, säger Mannila.