Wat valt er te doen tegen AI-nepfoto’s in het nieuws?
Nieuws | Vernieuwing
AI-gegenereerde beelden komen steeds vaker voor in de nieuwsjournalistiek. Soms zijn die beelden bewust gegenereerd, maar het is al een paar keer voorgekomen dat media per ongeluk nepfoto’s publiceerden. Hoe om te gaan met deze nieuwe ontwikkeling? ‘Het is essentieel om nu samen op te trekken.’
De oorlog in Iran is nog maar net begonnen als de ANP-redactie door een van haar afnemers op een verdachte foto wordt gewezen. Het ANP schakelt forensisch beeldexpert Alexander Schippers in, die steekproefsgewijs het beeldmateriaal van de betreffende fotograaf checkt. Al bij de eerste foto gaan de alarmbellen af. ‘Ik zag allerlei vervormingen in de foto,’ vertelt Schippers. ‘Verdraaide gezichten, een verschil in scherpte en gebogen lijnen.’ Een typisch geval van generatieve AI, concludeert hij.
Bouwsteen van het nieuws
Onmiddellijk besluit adjunct-hoofdredacteur Karin Hollaar van het ANP de meer dan duizend foto’s van het fotoagentschap dat deze foto aanleverde op inactief te zetten. Een keuze die ze motiveert vanuit het belang van de gehele Nederlandse journalistiek. ‘Als ANP zijn wij de bron en bouwsteen van het nieuws,’ legt ze uit. ‘Dat nieuws bestaat voor een groot gedeelte uit beelden. De waarheidsgetrouwheid van onze foto’s prevaleert daarom boven alles.’
Het kwaad is echter al geschied. Bij het Nederlands Dagblad (ND) is een van de foto’s inmiddels in de beeldbank terechtgekomen en gepubliceerd op de website. ‘We hebben de foto nog wel tegen het licht gehouden, maar dat er iets niet klopte, is door ons niet gezien,’ zegt Daniël Gillissen, adjunct-hoofdredacteur van de krant . Na een belletje van Hollaar over de teruggetrokken foto’s vervangt het ND meteen de foto en plaatst de krant een rectificatie. Gillissen: ‘We beseffen sindsdien nog meer hoe makkelijk het per ongeluk plaatsen van nepbeelden ons kan overkomen en dat de alertheid hoger moet zijn.’
Als de foto niet meer overeenkomt met wat er is gefotografeerd, gaat bij ons het luik dicht
Daniël Gillissen, adjunct-hoofdredacteur Nederlands Dagblad
Het toeval wil dat Gillissen een week voor het voorval nog een ANP-bijeenkomst bijwoonde waarin hoofd- en beeldredacteuren van verschillende Nederlandse media werden bijgepraat over AI-bewerkte beelden in het nieuws. ‘We kwamen steeds vaker nepbeelden tegen,’ vertelt Hollaar over de reden van de bijeenkomst. ‘Daarvan wilden we andere mediapartijen op de hoogte brengen, en we wilden vertellen wat we doen om het te voorkomen.’
Wederzijds vertrouwen
Het ANP krijgt dagelijks 1500 foto’s binnen van hun eigen (freelance) fotografen, plus nog 70 duizend via internationale persbureaus en fotoagentschappen. Een deel van die beelden wordt dagelijks gecheckt, daarvoor is 1 fte aan personeel beschikbaar, maar álles controleren is onbegonnen werk. Meer dan ooit komt het daarom aan op wederzijds vertrouwen, vertelt Hollaar. ‘We vertrouwen op de afspraken die we met de bureaus hebben,’ aldus de adjunct-hoofdredacteur van het ANP. ‘Het is essentieel om nu samen op te trekken en elkaar op de hoogte te houden.’
Zoals het ANP op haar toeleveranciers vertrouwt, leunen Nederlandse media zoals het Nederlands Dagblad op hun beurt op het ANP, vertelt Gillissen. ‘Zoals het ANP niet alles wat het binnenkrijgt kan controleren, zo kunnen wij dat als relatief kleine redactie ook niet. We hebben daarom geen andere keuze dan te vertrouwen op wat het ANP brengt.’ Zo’n bijeenkomst waarin het ANP uitlegt hoe ze met AI-gegenereerde beelden omgaan, versterkt dat vertrouwen volgens Gillissen. ‘Ze hebben laten zien dat ze ermee bezig zijn en dat ze willen voldoen aan dezelfde standaarden als wij.’
Onduidelijke grens
Die keten van vertrouwen hoopt Gillissen vervolgens in stand te houden door eerlijk te zijn over gemaakte fouten. ‘Als dagblad willen wij dat onze beelden een weergave zijn van de werkelijkheid,’ vertelt hij. ‘Als daar aan gemorreld is, vinden wij dat omwille van transparantie belangrijk om te melden.’ Gillissen geeft toe dat elke geplaatste foto in meer of mindere mate wordt bewerkt en dat je je daarom kunt afvragen waar de grens ligt. ‘Fotobewerkingen zijn niet per definitie fout, zeker het oplichten of bijlichten is van alle tijden. Maar als de foto niet meer overeenkomt met wat er is gefotografeerd, of zelfs is geconstrueerd, dan gaat bij ons het luik dicht.’
Zodra de informatie die een foto bevat verandert, ontstaat er een probleem
Alexander Schippers, beeldexpert ANP
Ook ANP-beeldexpert Schippers vertelt dat beeldbewerking zo oud is als de fotografie zelf. De grens wordt volgens hem echter overschreden op het moment dat (middels AI) de informatie in de foto wordt aangepast. ‘Elk beeld bestaat uit een ruw bestand waar informatie in zit,’ aldus Schippers. ‘Zolang die informatie niet verandert, zoals bijvoorbeeld bij het verhogen of verlagen van contrast, is er niks aan de hand. Maar op het moment dat er informatie verdwijnt of bijkomt, wordt het een probleem.’
In het geval van gegenereerde AI wordt dit soort nieuwe informatie gecreëerd, op zo’n manier dat het beeld in sommige gevallen nauwelijks nog te onderscheiden is van foto’s gemaakt door fotografen. ‘Het genereren wordt met de dag geavanceerder,’ zegt Schippers. ‘Waar dit met vroegere modellen nog duidelijk zichtbaar was doordat je bijvoorbeeld zes vingers aan een hand zag, wordt het nu steeds moeilijker om een AI-foto te onderscheiden met het blote oog.’
Hopen op een wondermiddel
Om zich toch optimaal te wapenen tegen AI-beelden is Schippers constant bezig met het uitproberen van AI-machines. ‘Ken je vijand’, is zijn motto. ‘Ik probeer continu op de hoogte te zijn van de nieuwste ontwikkelingen binnen de snel ontwikkelende AI-wereld,’ zegt Schippers, die aangeeft dat er ook aan de lopende band programma’s op de markt komen die nepbeelden kunnen herkennen. ‘Er wordt veel mee gepronkt door bedrijven, maar er bestaat nog geen enkel waterdicht programma. Het blijft voorlopig hopen op een wondermiddel.’
In de tussentijd komt het vooral aan op vertrouwen en kennis binnenshuis. Over dat laatste is Hollaar voorzichtig positief. ‘We staan niet meer helemaal aan het begin van de AI-ontwikkelingen,’ aldus de adjunct-hoofdredacteur van ANP. ‘Iedereen is goed onderwezen en weet wat er aan de hand is. Dat geldt ook voor andere mediapartijen.’
Gillissen heeft nog wel zijn twijfels. De AI-expertise bij de beeldredactie van het ND is volgens hem op dit moment ‘onvoldoende’ . Toch ziet hij nog geen reden om een forensisch beeldexpert als Schippers aan te stellen bij de krant, al zou dat in de toekomst kunnen veranderen – mocht de betrouwbaarheid van foto’s dan nog meer ter discussie staan. ‘Voor nu betalen wij ANP en toeleveranciers voor het scherp toezien op de hoogstaande kwaliteit van de foto’s.’
Integere weergave
Zowel het ANP als het ND heeft richtlijnen opgesteld over het gebruik van AI, waarin staat dat ze alleen werken met beeldmateriaal dat ‘waar’ is, oftewel een integere weergave geeft van de realiteit. Hoewel Hollaar achter die filosofie staat, betwijfelt ze het nut van zo’n richtlijn. ‘Op het moment dat je dingen gaat benoemen en beschrijven, is het alweer verouderd,’ zegt ze. ‘We houden daarom vast aan de werkbare stelregel: de inhoud moet blijven zoals-ie was.’
Natuurlijk gaan we nog een keer de mist in. Dan is het zaak afnemers en publiek mee te nemen in het proces
Karin Hollaar, adjunct-hoofdredacteur ANP
Deze standaard is overigens geen garantie dat er geen nepbeelden meer doorheen komen, zegt ze. ‘Natuurlijk gaan we nog een keer de mist in. Het is dan zaak afnemers en publiek zo snel mogelijk mee te nemen in het proces. Daar leren we met z’n allen van.’
Gillissen deelt Hollaars scepsis over richtlijnen. ‘Richtlijnen zijn belangrijk, maar daarmee redden we het niet.’ Hij kijkt daarom hoopvol naar de Europese Unie. ‘Gelukkig zit de EU er dit keer korter op dan met de opkomst van sociale media. Ze lopen nu minder achter de feiten aan.’
Scherpe controle vanuit de EU is nodig, denkt Gillissen, want volgens hem staat er veel op het spel voor de journalistiek. ‘AI raakt alle terreinen, waaronder tekst, audio en video. Met de komst van het internet en sociale media werd de distributie ons uit handen genomen, ditmaal gaat het over het maakproces. Dat is nog fundamenteler.’ Gillissen hoopt daarom dat we lering trekken uit het verleden. ‘Met internet zijn we in eerste instantie behoorlijk de mist in gegaan. Hopelijk zijn we dit keer een stuk alerter.’
Over de auteur
