Nyheter24
Annons

Ny AI-tjänst kan skapa tsunami av desinformation

Publicerad: 1 okt. 2025, kl. 19:34
Sam Altman, vd för Open AI, på en bild från ett besök i Vita huset tidigare i september. Den verkliga bilden av Altman är i stort sett omöjlig att skilja från AI-versionen i en reklamfilm för företagets nya videogenerator Sora 2. Foto: Alex Brandon/AP/TT

Lita inte på det du ser. Den senaste videouppdateringen från Open AI innebär att verklighet och fejkade klipp i praktiken är omöjliga att skilja åt. Risken är ett informationsflöde som svämmas över av desinformation.

En man flyger på en drake, vinden får både skjortan och luggen att fladdra. Medan han flyger över ett stormigt hav berättar han att en ny tjänst som ”ger dig makten att kliva in i vilken värld eller scen som helst” introduceras.

I ett annat klipp i reklamvideon som släpptes på tisdagen syns Open AI:s vd Sam Altman, till synes i färd med att skapa en miniorkester av lerfigurer, säga att det inte bara handlar om produktivitet:

— Det handlar om att skapa nya möjligheter.

”Extremt verklighetstroget”

Altman säger inte de orden på riktigt. Videon – och ljudet – är helt och hållet skapad av videogeneratorn Sora 2, som snart ska tillgängliggöras för allmänheten.

Annons

— Ja, det är ju extremt verklighetstroget, säger Andreas Jahrehorn Önnerfors, professor i idéhistoria vid Linnéuniversitetet och verksam vid Medieinstitutet Fojo med fokus på påverkan, faktagranskning och desinformation.

— För den vanliga mediekonsumenten kommer det inte att vara möjligt att urskilja om det är mänskligt eller syntetiskt producerat, fortsätter han.

Används politiskt

Artificiell intelligens används redan för att konstruera desinformation med politiska syften.

USA:s president Donald Trump publicerade nyligen ett uppenbart manipulerat klipp, där det ser ut som att demokraten Chuck Schumer säger att partiet vill ha fler illegala invandrare i landet för att få fler röster.

Enligt brittiska medier har AI-genererat innehåll som porträtterar muslimer som hotfulla spridits inför demonstrationer mot invandring.

Efter det att tiotusentals britter samlades för en högerextrem manifestation i London tidigare i september har bilder på liknande protestmarscher mot migration i andra europeiska städer spridits – utan att de ägt rum.

Fantasin sätter gränser

Andreas Jahrehorn Önnerfors ser en risk för att teknikens framsteg utarmar demokratin.

— Vi bygger våra beslut på den information som finns tillgänglig. Om den blir mer och mer manipulerad, så grundar vi besluten på något som inte är förankrat i verkligheten.

Han väljer dock en försiktig optimism inför framtiden. Propaganda är ingenting nytt. Visst innebär Sora 2 en ökad tillgänglighet och bättre möjligheter att manipulera innehåll, men det kommer troligtvis att användas på ett ganska förutsägbart vis.

— Till syvende och sist bygger användandet av de här kraftfulla AI-generationerna på att någon kommer på den sjuka idén att ha en symfoniorkester av lerfigurer.

Fakta: Sora 2

Den första Sora-modellen lanserades i februari 2024. I tisdags offentliggjordes uppföljaren.

Sora 2 finns hittills bara finns tillgänglig i Nordamerika och då bara för de med särskild inbjudan. Materialet den kan producera beskrivs som mer verklighetstrogen.

Rättighetsinnehavare kan aktivt välja att deras material inte ska användas för att träna generatorn., som alltså genererar videomaterial från textanvisningar. Filmklippens längder är hittills begränsade.

Pornografi och extremt våld ska begränsas.

Källa: Open AI

Kommentarer

Annons
Annons
Annons