Grip op AI voor gemeenteraden

Onlangs mocht ik een bijeenkomst bij BMC  bezoeken over ‘Grip op AI voor rekenkamers’. Ik vond het lastig, want het gebruik van AI is zich nog aan het ontwikkelen. Inmiddels merkt vrijwel iedereen hoe handig het is. Maar er dringt ook door dat er nadelen verbonden zijn. AI blijkt te hallucineren, citaten te verzinnen. Ik las laatst dat een docent altijd zijn leerlingen vroeg om creatieve oplossing voor een probleem te vinden. Daar kwam vroeger heel veel uit. Met AI blijkt daar weinig uit te komen: heel veel leerlingen komen met precies de zelfde AI-oplossing. En we hebben inmiddels ervaring met algoritmen die vooroordelen hebben, hoe zorg je dat je er achter blijft komen dat vooroordelen een rol spelen?

BMC benoemde Kennis over AI als eerste succesfactor. Het bureau had onderzoek gedaan en de deelnemende gemeenten die veel technische kennis en capaciteit in huis hebben, zijn gemakkelijker in staat om zelf AI-projecten op te zetten. Het verhogen van bewustwording en geletterdheid op het gebied van AI en algoritmen kan bijdragen aan een verantwoorde inzet

Uiteindelijk kwamen bij mij vooral vragen op. Hoe gaan raadsleden er mee om? Moet je een programmeur worden om je controlerende taak uit te voeren? Zeker niet! Juist niet! Ondanks de succesfactor die BMC aangeeft dat technische kennis veel helpt. We hebben niet voor niets lekenbestuur en de kaders worden niet door experts gemaakt. Gebruik de inhoudelijke hulp, maar blijf zelf aan het roer. Hier zijn drie vuistregels voor de bezorgde volksvertegenwoordiger.

1. AI is een middel, geen doel op zich. Waar is het gebruik van AI een oplossing voor? Voor standaardtaken zoals controleren of een aanvraag correct en compleet is? Dat kan heel handig zijn. Ook als raadslid heb je er veel aan. Gebruik AI om de bergen informatie die op je afkomen als raadslid te filteren, maar blijf zelf degene die de politieke weging maakt: dat is je hoofdtaak.

2. Wees alert op de 'Black Box' en Bias. We zagen dat AI best veel standaard voorbereiding kan doen. Maar tot waar gaat dat? Om van het begin tot het eind een aanvraag te behandelen en goed of af te keuren? Dat gaat te ver. Als de algoritmen vooroordelen bevatten, neemt de computer die klakkeloos over. Dit kan leiden tot onbedoelde discriminatie, bijvoorbeeld bij de controle op fraude of het toekennen van subsidies.

3. Omarm de kansen. Heel veel maatwerk verdwijnt uit het zicht door standaardtaken. AI zou juist kunnen helpen om meer tijd vrij te maken waar het er toe doet. Als raadslid bijvoorbeeld om contact met mensen te houden. Minder bureaucreatie en snellere reactietijden betekenen meer tijd voor wat er écht toe doet: contact met de inwoners. Maar blijf kritisch: de vraag blijft of AI niet juist de afstand tussen burger en overheid vergroot door processen verder te dehumaniseren. Kijk hoe AI de publieke waarden ondersteunt in plaats van ondergraaft.

Kaders voor AI?
Hoe moet je nu als rekenkamer naar AI kijken? Dat vond ik voor zo'n zich nog steeds snel ontwikkelende techniek lastig. Misschien is de eerste stap om te kijken of de gemeenteraad gesproken heeft over de kaders voor Artificial Intelligence.

• De greep die het bestuur er op heeft met helderheid waar welke verantwoordelijkheid ligt. Is dat duidelijk?
• Zijn de risico’s in beeld en is bekend welke toepassingen er zijn en welke risico’s die hebben?
• Zijn de ambtenaren getraind om de juiste vragen te stellen en herkennen ze de zwaktes van AI (hallucineren, vooroordelen)?
• En is er een veilige omgeving om over het gebruik en mogelijke gevaren te praten?
• Is bekend hoe leveranciers AI gebruiken en zit je vast aan één leverancier als je een AI toepassing kiest? 
• En natuurlijk: de samenleving. Worden inwoners geïnformeerd over AI en worden ze betrokken? Is het gebruik transparant en kan je in beroep gaan?

Ik maakte een test voor deze vragen: hier

Bedenk wel: De test kan een eerste stap zijn, maar de echte uitdaging zit in de handhaving van die kaders wanneer de techniek de regelgeving inhaalt. Als Rekenkamer dat onderzoeken lijkt mij nog een flinke stap extra. Daar ben ik nog niet uit.

P.S. Misschien tevens een vraag: als gemeenten de test gebruiken, kunnen de uitkomsten dan gedeeld worden met mij? Dan kan er een overzicht ontstaan van de verschillende gemeenten!