AI-tjänsten Grok, som ägs av XAI inom Elon Musks företagsimperium, har varit i rejält blåsväder sedan lanseringen. Den har bland annat kunnat användas för att skapa fejkade bilder och videor där det ser ut som att verkliga människor – även minderåriga – har sex.
I Sverige har exempelvis energi- och näringsminister Ebba Busch (KD) drabbats av AI-manipulerade bilder.
Klicka här för att följa oss på GoogleEU-kommissionen har nu startat ytterligare en utredning om Grok, utöver en redan pågående granskning av plattformen X. Kommissionen skriver i ett pressmeddelande att utredningen bland annat ska titta på hur företaget bedömde och hanterade olika risker inför lanseringen inom EU.
”Vi kommer inte lämna över samtycke och skyddet av barn till techföretag så att de ska kunna kränka och profitera på det. Skadan som har orsakats av illegala bilder är mycket verklig”, säger kommissionsordförande Ursula von der Leyen i ett uttalande.
Enligt digitalansvariga EU-kommissionären Henna Virkkunen ska utredningen utröna om X brutit mot EU:s digitala tjänstelag DSA.
”Sexuella deepfakes av kvinnor och barn utan samtycke är en våldsam, oacceptabel form av förnedring”, säger hon i pressmeddelandet.
För drygt en vecka sedan uppgav XAI, på Elon Musks sociala nätverk X, att bolaget vidtagit tekniska åtgärder som förhindrar manipulation av bilder och filmer som visar riktiga människor i sexuella situationer.
”Denna begränsning gäller alla användare, inklusive betalande prenumeranter”, skrev XAI.
