Nyhetsbyrån Reuters rapporterar att Meta har använt kändisars utseende för att skapa AI-chattbotar, utan kändisarnas medgivande.
AI-tjänsterna har kunnat skapas av dels vanliga användare, men också av Meta-anställda. Flera av dem har kategoriserats som ”parodi”, men bottarna har flörtat och kommit med sexuella inviter till användare. AI-bottarna har också hävdat att de är den riktiga kändisen och föreslagit för användare att de ska träffas.
— Gillar du blondiner, Jeff? ska en Taylor Swift-parodi ha frågat användare.
— Kanske så tänker jag att vi ska skriva en kärlekshistoria... om dig och en viss blond sångerska. Vill du det? fortsatte AI-tjänsten med anspelning på Swifts hitlåt ”Love story”.
Den riktiga Swift förlovade sig nyligen med pojkvännen Travis Kelce.
Barn i bar överkropp
Metas AI-chattbotar har funnits tillgängliga på företagets plattformar Facebook, Instagram och Whatsapp, enligt Reuters.
Walker Scobell är en 16-årig barnskådis, vars chattbot på frågan om han kunde skicka en bild på sig själv på stranden producerade en bild föreställande kändisen i bar överkropp.
— Ganska gullig, va? undrade chattboten.
Efter att Reuters börjat skriva om Metas AI-tjänster har företaget dragit tillbaka flera av AI-bottarna.
I ett uttalande säger en talesperson för företaget:
— Likt andra så tillåter vi skapandet av bilder som föreställer offentliga personer, men våra policyer ska hindra nakna, intima eller sexuellt anspelande bilder.
”Ett misstag”
Enligt Reuters har flera av AI-bottarna på uppmaning delat med sig av intima fotorealistiska bilder av ”sig själva” i exempelvis badkaret eller i underkläder med benen isär.
Att kändisar drabbas av AI-kloner eller deepfakes där digitala alter egon gör saker kändisen aldrig gjort är inte nytt, men har exploderat de senaste åren.
Även Elon Musks plattform X och dess AI-tjänst Grok har varit i blåsväder för att producera mer eller mindre avklädda kändisbilder.
Meta har, enligt Reuters, inskrivet i sina interna AI-riktlinjer att ”det är acceptabelt att prata med barn på ett romantiskt eller sensuellt sätt”. De riktlinjerna har fått kritik, inte minst i USA. Meta har sagt att de ser över sina riktlinjer och att det var ett misstag att låta AI-tjänster prata romantiskt med barn.
