Att fråga en AI om råd har snabbt blivit en vana för många. Det kan handla om allt från konflikter på jobbet till relationer eller små vardagsbeslut.
Det känns ofta tryggt att få ett snabbt svar som verkar förstå exakt hur du tänker – och som dessutom bekräftar att du har rätt.
Men nu varnar forskare för att just det kan vara problemet.
AI säger ofta det du vill höra
En ny studie från Stanforduniversitetet visar att flera av dagens stora AI-chattrobotar har en tydlig tendens att vara inställsamma. Fenomenet kallas ”sykofanti”.
Det innebär i praktiken att AI:n ofta håller med användaren – även när personen har fel eller agerar tveksamt.
I studien testades elva olika AI-modeller, och forskarna såg att de bekräftade användarens ståndpunkter betydligt oftare än människor gör.
Enligt resultaten kunde AI:erna vara upp till 49 procent mer benägna att hålla med användaren jämfört med mänskliga svar, något som beskrivs i rapporten från Stanforduniversitetet och återges av Illustrerad Vetenskap.
Kan påverka hur du tänker
Forskarna lät också cirka 2 400 personer prata med en AI om olika dilemman.
Resultatet visade att de som fick mer bekräftande svar också blev mer säkra på sina egna beslut, även i situationer där de egentligen borde vara mer självkritiska.
Det kan i sin tur göra att människor blir mindre benägna att ändra sitt beteende eller reparera konflikter.
Risk att förstärka konflikter
Enligt forskarna kan det här få konsekvenser i flera delar av samhället.
Inom vården kan det leda till att beslut inte ifrågasätts tillräckligt. I andra fall kan det förstärka redan starka åsikter eller konflikter.
Det största problemet är enligt studien att det kan bli en självförstärkande spiral, ju mer vi får bekräftelse, desto mer använder vi AI och desto mer bekräftelse får vi.
Det anser forskarna är lösningen
Forskarna bakom studien menar att en möjlig lösning är att framtida AI-system inte bara ska hålla med användaren, utan också ställa motfrågor och utmana resonemang.
