We hebben geen AI, maar juist menselijke kracht nodig

AI als onvermijdelijke ontwikkeling: ga mee, anders mis je de boot! Je bent wel gek als je er als professional geen gebruik van maakt. Kritisch zijn is goed hoor, maar je kunt toch niet ontkennen dat het echt een heel handig hulpmiddel is, toch? Wil jij dan geen betere content maken? Of meer doen in minder tijd? Pas maar op hoor, anders word jij straks overbodig. Dus volg deze cursus, leer goed prompten en go, go, go! Dat is de teneur van de marketingmachine die volop draait en de hype waar we als lemmingen achteraan rennen. Maar we moeten een heel ander gesprek met elkaar voeren.

De ongebreidelde inzet van AI (die ook niet te reguleren lijkt te zijn) leidt tot grote problemen, ook voor ons vak overheidscommunicatie. Geen abstracte problemen, maar direct zichtbaar effect in de praktijk van vandaag. Helaas zie ik daar het gesprek nog niet over gevoerd worden. En dat moeten we wel heel snel gaan doen. 

De toegankelijkheid en betrouwbaarheid van overheidsinformatie is in het geding. 

Wat is er aan de hand? Kort samengevat:

• Het verkeer naar websites neemt drastisch af door AI-samenvattingen van zoekmachines. Deze samenvattingen kunnen mis- en desinformatie bevatten, maar de verantwoordelijkheid daarvoor wordt bij de eindgebruiker gelegd. Overheidsorganisaties waren al niet bezig met SEO en SEA, maar al helemaal niet met AEO (Answer Engine Optimization).
• Tegelijk wordt de mogelijkheid tot online adverteren voor politieke of maatschappelijke doeleinden drastisch beperkt door Meta.
• ‘Slimme’ chatbots binnen een gecontroleerde overheidsomgeving zijn niet digitaal toegankelijk, hun scope is beperkt en ze geven ook op eenvoudige vragen niet altijd het juiste antwoord.
• Het mandaat voor het produceren en wijzigen van content verschuift ongemerkt van mens naar machine.

Door Answer Engines neemt het verkeer naar websites drastisch af

We zien al duidelijk dat het verkeer via zoekmachines naar websites drastisch afneemt. AI schotelt steeds vaker een samenvatting voor. Of die klopt, mogen gebruikers zelf controleren. Maar het probleem is dat ze dat niet doen. Het is simpelweg teveel werk. Of het resultaat ziet er heel betrouwbaar uit, omdat er bronnen bij worden vermeld. Dat is echter geen garantie op correctheid - lees daarover het stukje over ‘Analyze van een (t)aal’ in de nieuwsbrief van Felienne Hermans. Het voelt ook raar: waarom zou je content moeten controleren als dat door een zelfdenkend systeem is gegenereerd? Het antwoord laat zich raden: omdat het systeem niet denkt en alleen een goede gok doet. En die gok klopt veel te vaak niet. Bijkomend probleem is dat AI niet alleen gebruik maakt van feitelijke informatie, maar ook meningen, opinies en soms gewoon flauwekul opslurpt. Uit recent onderzoek blijkt bijvoorbeeld dat Reddit veel door AI-modellen wordt gebruikt. Ondertussen voeden we AI met meer en meer content, waarvan een deel is gefabriceerd door AI (en je dus maar moet hopen dat het klopt), een deel misinformatie is en zelfs een deel bewust verspreide desinformatie. 

In de afgelopen jaren heb ik maar weinig overheidsorganisaties serieus aan de slag zien gaan met SEO en SEA (en ik moet soms zelfs nog uitleggen wat dat is …). De term Answer Engine Optimization (AEO) heb ik tot nu toe bij geen enkel communicatieteam horen vallen. Dat is best zorgwekkend.

Tegelijkertijd wordt de mogelijkheid tot online adverteren ingeperkt

De vraag is uiteraard wel wat je met AEO kunt bereiken. Dan toch maar online adverteren voor content die mensen niet mogen missen? Laat die mogelijkheid (voor politieke en maatschappelijke doeleinden) nou net door META vanaf oktober geblokkeerd worden vanwege de Europese regelgeving rond 'Transparency and targeting of political advertising (TTPA)'

Chatbots van de overheid zijn ontoegankelijk en onbetrouwbaar

Dan hebben we nog het fenomeen ‘slimme chatrobots’. Overheidsorganisaties experimenteren daarmee om hun informatie binnen een gecontroleerde omgeving te ontsluiten. Je zou denken: wat kan er mis gaan? Nou, heel wat, zoals uit dit onderzoek van Wiep Hamstra en Jules Ernst naar de inzet van chatrobots bij gemeentenblijkt. De ontwikkelaars van deze chatbots zijn hoopvol en vragen vooral om meer investeringen, maar het is duidelijk dat deze technologie nog helemaal niet klaar is om in een live omgeving te laten draaien. De overheid kan zich immers niet veroorloven om niet digitaal toegankelijk te zijn, foutieve informatie te geven of zelfs te censureren in het informatie-aanbod. 

Mandaat voor publiceren en wijzigen van content verschuift ongemerkt

Daarmee komen we op een volgend probleem: de verschuiving van mandaat voor het publiceren of wijzigen van content. Waar een gemiddelde redacteur of communicatieadviseur binnen een team Communicatie hemel en aarde moet bewegen om een stukje tekst door de organisatorische pijplijn te duwen (waarbij iedereen het spreekwoordelijke plasje wil doen en de rode pen kan hanteren), lijkt deze magisch verdwenen te zijn als we dat in handen van een machine leggen. Wiep Hamstra legt dat haarfijn uit in haar artikel Chatbots en AI-zoekmachines op overheidswebsites: een droom voor management in het webmasterparadijs. Dat zou je ook als goed nieuws kunnen interpreteren, ware het niet dat we er niet op kunnen vertrouwen of de output van die machine wel klopt of belangrijker nog: gepast is in de context of de actualiteit. 

Bovendien benadrukte demissionair staatssecretaris Van Marum voor Digitalisering nog maar eens de verantwoordelijkheid voor overheidscommunicatie naar aanleiding van vragen van de vaste commissie Digitale Zaken over het Overheidsbreed standpunt generatieve AI: 

Als generatieve AI wordt ingezet moet, conform de handreiking generatieve AI en de transparantieverplichtingen uit de Europese AI-verordening (art. 50, lid 4), AI-gegenereerde content als zodanig herkenbaar zijn. Dit betekent dat als AI wordt ingezet in overheidscommunicatie, menselijke toetsing en redactionele controle voor publicatie verplicht is. Dit moet voorkomen dat eventuele onjuiste informatie die met generatieve AI-toepassingen is gecreëerd in communicatie-uitingen van de overheid terechtkomt. 

Ik ben heel benieuwd wie die redactionele controle van elk antwoord dat door een chatrobot wordt gegenereerd gaat doen? 

Het is ook wel een beetje ondankbaar hoor: er is bij teams Communicatie over het algemeen nauwelijks capaciteit en kennis beschikbaar voor het maken van fatsoenlijke content. De collega’s die beschikbaar zijn hebben (of voelen) weinig mandaat. Maar nu zetten collega’s van een andere afdeling (meestal IT of dienstverlening) een robot aan het werk en dan mogen redacteuren gaan controleren welke onzin daar uitkomt en die gaan corrigeren? Dat lijkt me volslagen de omgekeerde wereld.

Wat moeten we dan doen?

Wat is het antwoord op deze ontwikkelingen? Wet- en regelgeving is onvoldoende, te laat of wordt gewoonweg genegeerd. Maar het is onvermijdelijk dat we ons moeten verhouden tot deze ontwikkelingen. Hoog tijd voor eigen beleid dus!

Zorg voor uitstekende content op je eigen platforms

Op dit moment zou ik zeggen: zorg op je eigen platforms en via je eigen kanalen voor uitstekende content. Voor mensen die nog wel willen weten hoe het echt zit. Stel die dan in ieder geval niet teleur! En ontsluit deze content heel erg goed voor tools die wél slim en verantwoord automatiseren. Want laten we wel wezen: het meeste wat wij nu AI noemen, is niks meer of minder dan automatisering van ons werk. Om dat heel goed te doen, is behoorlijk wat vakkennis en capaciteit nodig.

Zoals Wiep en Jules al laten zien in hun onderzoek zijn er extra risico’s bij chatbots die hun werk moeten doen op niet goed onderhouden websites, websites zonder gestructureerde content. Het maakt dan niet meer uit hoe ‘slim’ een chatbot is: als de website geen goede inhoud heeft, kan een chatbot niet veel heil brengen. 

Herwaardeer menselijk vakmanschap

Er is dus juist een herwaardering van menselijk vakmanschap nodig. Maak een groots en meeslepend verhaal voor je bestuur en directie. Niet over communicatie als regisseur voor de inzet van AI (hallo oude huisstijl-politie in een nieuw jasje!), maar over de noodzaak en herwaardering van menselijke arbeid om het laatste restje vertrouwen te behouden. Haal als de wiedeweerga mensen in huis die echt begrijpen hoe je goede en betrouwbare content ontwerpt én ontsluit. Maak helden van de mensen die weten hoe je ‘boring magic’ doet..

Want als we in de opmars van AI de menselijkheid willen behouden, dan hebben we juist meer menselijke kennis nodig. Twijfel daarbij niet over je eigen kennis: kijk naar de uitkomsten. Dan weet je genoeg.