Falske AI-videoer fra Iran oversvømmer nettet – og det er svært at gennemskue

Hvis du har scrollet forbi dramatiske krigsvideoer fra Mellemøsten på det seneste, er der en reel chance for, at du har set noget, der aldrig er sket. En ny analyse afslører, at falske AI-genererede videoer med forbindelse til Iran florerer på sociale medier – og de bliver stadig sværere at skelne fra ægte optagelser.

Propaganda i en ny indpakning

Det er analysevirksomheden som ifølge Berlingske har kortlagt omfanget af de kunstigt fremstillede videoer. Konklusionen er nedslående: Iransk krigspropaganda har fået et teknologisk løft, der gør den langt mere effektiv end tidligere forsøg på at påvirke den offentlige opinion.

Videoerne viser typisk dramatiske krigsscener, eksplosioner eller militære operationer – alt sammen designet til at fremkalde stærke følelsesmæssige reaktioner. Problemet er bare, at scenerne er fabrikeret fra bunden ved hjælp af AI-værktøjer, der er blevet tilgængelige for stort set alle.

Algoritmer elsker drama

En væsentlig del af problemet handler om de sociale mediers egne mekanismer. Videoer med voldsomt eller følelsesladet indhold får naturligt mere opmærksomhed og deles hurtigere. Det skaber en perfekt storm for propaganda-producenter, der ved præcis, hvilke knapper de skal trykke på for at få maksimal spredning.

Og det virker. Flere af de identificerede videoer har fået hundredtusindvis af visninger, før de er blevet afsløret som falske. På det tidspunkt har skaden ofte allerede fundet sted – budskabet er plantet, og de fleste seere vil aldrig se en rettelse.

Svært at følge med

Eksperter peger på, at udviklingen inden for AI-genereret video går så hurtigt, at selv trænede øjne har svært ved at spotte de nyeste forfalskninger. Hvor tidligere deepfakes ofte afslørede sig selv med mærkelige detaljer – fingre der bøjer forkert, ansigter der flimrer – er kvaliteten i dag på et niveau, hvor det kræver egentlig teknisk analyse at gennemskue dem.

Det rejser et ubehageligt spørgsmål: Hvis professionelle analytikere kæmper med at skelne ægte fra falsk, hvad chance har den almindelige bruger så?

Anbefalingen fra eksperterne er den samme som altid, bare mere presserende end nogensinde: Vær skeptisk over for dramatisk videoindhold uden verificeret kilde, og tænk dig om en ekstra gang, før du deler videre.