Onderzoeker Hannes Cools: ‘Journalisten en AI-ontwikkelaars moeten elkaar zien te vinden’

Van nieuwsgaring tot de distributie ervan: journalisten kunnen veel werk uitbesteden aan kunstmatige intelligentie (AI). Maar hoe? Onderzoeker Hannes Cools promoveerde aan de KU Leuven op de vraag hoe mens en machine op redacties samenwerken.

Jarenlang zat Hannes Cools op de redacties van De Morgen en VRT, ingebouwd tussen drie schermen. Twee om op te werken en één om de gebruikersstatistieken bij te houden. ‘Handig om te weten hoe je stukken presteren en welke aanbevelingen dat oplevert voor je volgende artikelen. Maar ik had eigenlijk geen idee waar die systemen zich precies op baseerden.’

Het zat Cools niet lekker. ‘Ik zag steeds vaker dat er AI-tools op redacties zijn, die min of meer de macht hebben. Ik was benieuwd hoe journalisten daarmee omgaan en in hoeverre ze die tools vertrouwen.’ Wat volgde: vier jaar onderzoek op redacties in België en Duitsland, en bij de BBC en de Washington Post, waar Cools de omgang met verschillende typen AI onderzocht.

Aan wat voor tools moeten we denken?

‘Ik heb gekeken naar tools voor nieuwsgaring, – productie en -distributie. Voor nieuwsgaring gebruikte de Washington Post bij de presidentsverkiezingen in 2020 bijvoorbeeld een recommender system dat verkiezingsdata vergelijkt met historische data over de opkomst en uitslagen. De tool geeft het aan als iets afwijkt van eerdere jaren, als in een bepaald stadsdeel bijvoorbeeld veel meer of minder gestemd is dan voorgaande jaren. Dat is mogelijk nieuwswaardig.

Wat de productie betreft, is ChatGPT momenteel natuurlijk het gesprek van de dag. Maar er zijn ook andere tools. Zo heeft de BBC er een die teksten aanpast aan de huisstijl. Ook hebben ze software die zelfstandig vertalingen maakt en onderzoeken ze de mogelijkheden van automatisch samenvatten. Tools die helpen bij de nieuwsdistributie zijn vaak metrics-systemen die bijhouden welk type bericht en kop het goed doen, op welk tijdstip en op welk platform. Op basis van die informatie doet het systeem aanbevelingen.’

Hoe gaan redacties met dat soort tools om?

‘Wat mij opviel, is dat de houding weinig kritisch is. Vooral jongere journalisten lijken bijvoorbeeld geneigd om redactionele keuzes af te stemmen op metrics-systemen. Niet gek: je maakt als journalist ongelofelijk veel beslissingen op een dag en zo’n systeem geeft houvast. Tijdsdruk speelt ook bij het gebruik van andere tools een rol. Journalisten van de Washington Post grepen daarom vooral op het recommender system terug als een nieuwspiek was – tijdens de pandemie of in verkiezingstijd bijvoorbeeld. Tijdens de pandemie hield het recommender system bij wat trending was op sociale media. Zo kon de redactie zien wat er bijvoorbeeld speelde in Bergamo, Italië, zonder dat ze daarbij volledig afhankelijk waren van persbureau’s of informatie van andere media.

Het is probleem is: vaak hebben journalisten geen zicht op de manier waarop die tools tot een oordeel komen. Veel systemen op redacties zijn extern ontwikkeld. Je koopt een kant-en-klaar pakket dat je niet kunt aanpassen. En zelfs als dat wel kan, kunnen journalisten de stappen die AI zet vaak niet volgen. Het is een zwarte doos. Er komt informatie uit, maar je weet niet hoe die tot stand is gekomen.’

Hoe kunnen we die zwarte doos openbreken?

‘Met een betere communicatie tussen AI-ontwikkelaars en journalisten. Maar tijdens mijn observaties bij de Washington Post zag ik dat dat nog niet zo makkelijk is, bijvoorbeeld omdat er cultuurverschillen zijn. Journalisten missen expertise op AI-gebied, en AI-ontwikkelaars hebben weinig feeling met de journalistieke normen en waarden en bijvoorbeeld het belang van objectiviteit en transparantie.

Bij de Washington Post zag ik dat de AI-ontwikkelaars van het recommender system een blog bijhielden, waarin ze het publiek uitleggen welke data ze gebruiken en hoe de tool werkt. Maar intern gaven ze veel minder informatie prijs. Vaak zeiden de ontwikkelaars: “Dan gaan journalisten te veel vragen stellen, dat willen we niet.” Dat was paradoxaal: de externe transparantie was hoog, de interne juist niet. AI-ontwikkelaars zijn gewend om autonoom te werken. Ze denken vaak: “Wij zijn hiervoor opgeleid, dus wij nemen de beslissingen.” Door het gebrek aan communicatie ontstaat er wantrouwen of desinteresse op redacties.

De hoofdredactie zag het probleem en besloot om ontwikkelaars op de redactie te laten werken in plaats van in een aparte ruimte. Dat experiment liep compleet spaak. AI-ontwikkelaars zeiden tegen mij: “Die journalisten komen alleen maar naar me toe als de printer het niet doet.” Wat je ziet, is dat beide beroepsgroepen een andere taal spreken, andere routines en waarden hebben. Veel raakt lost in translation. Maar ze moeten elkaar wel gaan vinden, want we kunnen niet om AI heen in de journalistiek.’

Wat kunnen journalisten doen om bewuster met AI om te gaan?

‘Waar ze goed in zijn: vragen stellen, óók als het ogenschijnlijk om voor de hand liggende dingen gaat. De media schilderen AI vaak heel dystopisch of utopisch af, terwijl de realiteit meestal ergens in het midden ligt. Als je vragen stelt, kan er een meer genuanceerd beeld ontstaan en kunnen we tools beter tegen het licht houden. Maar ook bij AI-ontwikkelaars is een cultuuromslag nodig, zodat ze meer begrip krijgen voor bijvoorbeeld het journalistieke belang van vragenstellen en ze zich minder aangetast voelen in hun autonomie.’

Welke rol zie je weggelegd voor onderzoekers?

‘In de dagen voordat ik mijn promotieonderzoek verdedigde, had ik een aantal mediapartners uitgenodigd. Zij stelden veel moeilijkere vragen dan de jury. “Hoe vertalen we jouw onderzoek naar onze redacties?”, wilden ze weten. Heel terecht. We moeten als onderzoekers veel nauwer samenwerken met mediapartners. Ik begin nu aan een nieuw project waarin ik ga kijken hoe de communicatie tussen journalisten en AI-ontwikkelaars beter kan, en hoe we bij een onderwerp dat zo complex is toch kunnen zorgen voor voldoende transparantie en explainability.’

Foto: Schermen met gebruikersstatistieken op de redactie van The Washington Post