De impact van AI op interactie tussen overheid en burger

Op vrijdag 27 maart vond de jaarlijkse conferentie van Gebruiker Centraal plaats in de prachtige Koepelgevangenis in Arnhem. ’s Morgens modereerde ik een panel over de impact van AI op de interactie tussen overheid en burgers met:

• Journalist Laurens Vreekamp - schrijver van het boek ’Niet onze AI - voorbij de beloften van Big Tech.
• Eva de Valk - kwartiermaker digitalisering bij de Nationale Ombudsman.
• Nelleke Groen - consultant AI Governance bij een uitvoeringsorganisatie van het ministerie van BZK.
• Wiep Hamstra - informatiestrateeg bij het ministerie van BZK en burgeronderzoeker.

Van de voorbereiding had ik al heel wat opgestoken en van dit gesprek ook weer. We hadden het onder andere over het toenemende aantal klachten dat binnenkomt bij De Nationale Ombudsman dat gegenereerd is met behulp van AI. Aan de ene kant kan AI burgers helpen de drempel om een klacht in te dienen te verlagen. Aan de andere kant wordt De Nationale Ombudsman geconfronteerd met klachten die door het gebruik van AI uitgebreid en opvallend dwingend van toon zijn. Als medewerkers dan telefonisch contact opnemen, dan blijkt de indiener van de klacht niet altijd goed te beseffen wat die precies vraagt of verzoekt. Dit lijkt me een effect waar we terdege rekening mee moeten houden, want dit kan de overheid flink wat tijd gaan kosten. 

We zijn tijdens het panel ook uitgebreid ingegaan op het containerbegrip dat AI inmiddels is. Het is met alle vormen oppassen geblazen, maar vooral met generatieve AI, vond het panel. Met meer traditionele toepassingen van AI moet je voorzichtig zijn, omdat de toegepaste regels worden geschreven door mensen. Techniek is niet neutraal, dus je moet je altijd afvragen wie eigenlijk waarover mag beslissen. Van generatieve AI is bekend dat het niet alleen fouten maakt, maar ook dat het discrimineert en gemaakt wordt door machtige ondernemers die het niet altijd goed voor lijken te hebben met de wereld.

Tot slot introduceerde Wiep nog een heel handig kwadrant om het gesprek over AI in je organisatie op een andere en volledige manier te voeren. Ze liet zien dat het gesprek nu vooral gaat over de voordelen van AI wel gebruiken en de nadelen van het niet gebruiken. Maar dan mis je eigenlijk twee delen van het kwadrant, namelijk het gesprek over de voordelen van AI niet gebruiken en de nadelen van AI wel gebruiken. Ik denk dat we het gesprek over deze laatste twee kwadranten heel erg goed moeten gaan voeren met elkaar. Uit de reacties tijdens het panelgesprek bleek dat de marketing hype van AI behoorlijk dominant is en ik denk dat veel mensen dat niet eens in de gaten hebben …

Meer weten over dit onderwerp? Lees dan zeker het boek van Laurens Vreekamp en Gabriella Obispa: Niet onze AI - voorbij de beloften van Big Tech of luister naar dit fragment met de auteurs in De Nieuws BV op radio 1.