Perspektiv
AI gør falske redaktioner mere troværdige, men kildekontrol begynder med afsenderen
Falske profiler er ikke nye. Det nye er, hvor billigt de kan skrive, oversætte og holde en troværdig facade ved lige. Derfor må kildekontrol også handle om organisationen bag teksten.
Det nye er arbejdsgangen bag facaden
OpenAI offentliggjorde den 8. oktober 2026 en rapport om to skjulte påvirkningsoperationer, som virksomheden havde lukket. Den ene blev ifølge rapporten drevet fra Rusland og rettet mod Latinamerika. Den anden blev knyttet til Iran og brugte syv falske journalistprofiler til at tilbyde længere artikler til små og mellemstore medier. [1]
Operationerne brugte AI sammen med velkendte metoder. Den russiske aktivitet byggede blandt andet en front, der lignede et forskningsmiljø, og brugte uvidende lokale medarbejdere. Den iranske aktivitet kombinerede artikeludkast med store mængder kommentarer på sociale medier. AI gjorde det lettere at oversætte, tilpasse og producere materiale, men skabte ikke selve strategien. [1]
Det er en vigtig skelnen. Problemet er ikke kun en falsk tekst, som et værktøj måske kan afsløre. Problemet er en hel arbejdsgang med profiler, hjemmesider, interne rapporter og relationer til rigtige mennesker. Når facaden er sammenhængende, kan den passere en overfladisk kontrol, selv om enkelte dele er opdigtede.
OpenAI vurderer selv den russiske operation til kategori 5 og den iranske til kategori 4 på den såkaldte Breakout Scale. Virksomheden skriver også, at indhold fra begge aktiviteter nåede etablerede medier. Tallene og klassifikationen kommer fra OpenAIs egen undersøgelse og er ikke en uafhængig opgørelse. De bør derfor læses som en dokumenteret hændelsesrapport, ikke som et komplet billede af al påvirkning online.

En byline er ikke en identitet
En redaktion eller virksomhed kan begynde med et enkelt spørgsmål: Hvem har faktisk fordel af, at denne tekst bliver udgivet? Svaret findes sjældent i sproget alene. Kontrollen skal omfatte personen, organisationen, finansieringen, tidligere arbejde og den vej, materialet har taget frem til modtageren.
Tjek om afsenderen kan kontaktes gennem en kanal, der ikke er oplyst i henvendelsen. Ring til organisationens hovednummer, hvis det findes. Se efter navngivne ledere, registrerede adresser, tidligere publikationer og en sammenhængende historie over tid. Et nyt domæne er ikke automatisk mistænkeligt, men et nyt domæne kombineret med uklare ejere og pres for hurtig udgivelse bør udløse ekstra kontrol.
Undersøg også relationen mellem kilderne. Ti profiler kan se ud som ti uafhængige bekræftelser, selv om de genbruger samme tekst eller styres af samme aktør. Bevar derfor links, tidsstempler og originale filer, så gentagelser og samtidige mønstre kan opdages.
EU’s Tjeneste for EU’s Optræden Udadtil beskriver udenlandsk informationsmanipulation som en sikkerheds- og udenrigspolitisk trussel og fremhæver fælles analyse, situationsforståelse og samarbejde som dele af forsvaret. [2] Det betyder ikke, at enhver udenlandsk afsender er utroværdig. Det betyder, at oprindelse, koordinering og skjulte interesser er relevante beviser sammen med selve udsagnene.
Læg friktionen dér hvor konsekvensen er størst
Ikke alle henvendelser kræver en efterforskning. Lav en enkel tærskelmodel, så kontrollen bliver grundig dér, hvor en fejl kan gøre størst skade. En debatartikel med en tydelig privat holdning kræver en anden proces end en påstand om krig, valg, folkesundhed eller en navngiven person.
Brug mindst to uafhængige spor til faktuelle påstande med stor betydning. Det kan være et originalt dokument og en fagperson, der ikke er forbundet med afsenderen. Hvis en kilde henviser til et lækket dokument, bør filens oprindelse, metadata og indhold vurderes hver for sig. En ægte fil kan stadig blive præsenteret med en falsk forklaring.
AI kan hjælpe med at opstille påstande, finde uoverensstemmelser mellem versioner og foreslå spørgsmål. Den bør ikke afgøre, om en person eksisterer, eller om en organisation er uafhængig. En model kan selv blive overbevist af den samme glatte facade, som et menneske bliver overbevist af.
Lav en navngiven eskalationsvej. Når identitet eller finansiering er uklar, skal en redaktør, kommunikationsansvarlig eller sikkerhedsfunktion kunne sætte processen på pause. Gem begrundelsen for at publicere, afvise eller udsætte. Det beskytter både mod manipulation og mod den modsatte fejl, hvor legitim kritik afvises uden grund.
Byg et forsvar der kan lære
Registrér hændelser som mønstre, ikke kun som enkelte dårlige tekster. Notér domæner, kontaktoplysninger, tilbagevendende formuleringer, vedhæftede filer, ønskede udgivelsestidspunkter og hvilke emner der blev koblet sammen. Del observationer internt på tværs af redaktion, kommunikation, jura og sikkerhed, når det er relevant.
EEAS’ fjerde trusselsrapport fra marts 2026 beskriver udenlandsk informationsmanipulation som et økosystem af aktører og infrastruktur. [3] Den tilgang er nyttig i praksis: En organisation bør ikke kun spørge, om én artikel er sand, men om den indgår i en koordineret indsats, der forsøger at låne troværdighed fra rigtige kanaler.
Sæt også mål for jeres egen proces. Hvor ofte opdager I manglende afsenderoplysninger før udgivelse? Hvor lang tid tager en udvidet kontrol? Hvilke falske alarmer opstår? En kontrol, som ingen kan nå at udføre, bliver hurtigt omgået. Derfor skal kriterierne være tydelige og støtten tilgængelig.
OpenAIs rapport viser, at AI kan gøre en gammel metode mere skalerbar og sprogligt overbevisende. [1] Den rigtige reaktion er ikke at mistænkeliggøre enhver ny afsender. Det er at flytte tillid fra overfladen til en dokumenteret kæde: hvem afsenderen er, hvor påstanden kommer fra, hvem der har bekræftet den, og hvem der tager ansvar for at publicere.
Læs også
- AI og persondata – syv spørgsmål før du deler oplysninger
- Hallucinationer og bias i AI – forstå fejlene og kontrollér svarene
Kilder og videre læsning
- [1] OpenAI — Disrupting AI-enabled false front operations (8. oktober 2026)
- [2] European External Action Service — Information Integrity and Countering Foreign Information Manipulation and Interference
- [3] European External Action Service — 4th EEAS Report on Foreign Information Manipulation and Interference Threats (12. marts 2026)