Gemeente moet stoppen met het gebruik van ChatGPT: ‘Het brengt aanzienlijke risico’s met zich mee’
Vanwege zorgen over privacy en veiligheid wil de gemeenteraad een verbod op AI-programma’s op computers van de gemeente. “Wie gebruikmaakt van AI, kan eenvoudig informatielekken veroorzaken.”
Gemeenteambtenaren mogen geen openbare AI-programma’s meer gebruiken voor het verwerken van informatie. Dat heeft een meerderheid van de gemeenteraad vorige week besloten. Een motie van Hera Butt (GroenLinks) draagt het stadsbestuur op taalprogramma’s als ChatGPT te blokkeren op de werkcomputers van ambtenaren. Eerder gebeurde iets vergelijkbaars met het sociale medium TikTok op werktelefoons.
Butt diende de motie in vanwege zorgen over de privacy van de inwoners van Den Haag. Zij heeft op zichzelf geen bezwaar tegen het gebruik van de programma’s, maar wijst erop dat de modellen openbaar toegankelijk zijn en in handen zijn van een derde partij. Daardoor bestaat het risico dat persoonsgegevens onbedoeld op straat komen te liggen.
Dit soort technieken vormen geen acuut gevaar, maar brengen wel aanzienlijke risico’s met zich mee
Het GroenLinks-raadslid verwijst onder meer naar kritiek van de Vereniging van Nederlandse Gemeenten op het gebruik van AI. “Ik heb er geen moeite mee als bijvoorbeeld raadsleden deze technologie gebruiken, omdat wij niet met persoonsgegevens werken,” licht ze toe. “Dit soort technieken vormen geen acuut gevaar, maar brengen wel aanzienlijke risico’s met zich mee. Juist ambtenaren moeten zich daarvan bewust zijn, omdat zij een bijzondere zorgplicht hebben.”
Tijdswinst
Uit een rapport van TNO bleek eind vorig jaar al dat steeds meer ambtenaren gebruikmaken van AI-taalprogramma’s, ‘wat vragen oproept over de controle, veiligheid en digitale onafhankelijkheid’, aldus het begeleidende persbericht. TNO besloot het onderzoek uit te voeren vanwege zorgen over de privacy en veiligheid van de toepassing van kunstmatige intelligentie. Volgens het rapport erkennen overheidsinstanties hun afhankelijkheid en onderzoeken zij actief hoe zij hun positie ten opzichte van Amerikaanse leveranciers kunnen verbeteren.
Het voelt alsof AI iets volledig nieuws is en je er onmiddellijk mee aan de slag moet
Uit het onderzoek bleek dat vooral gemeenteambtenaren gebruikmaken van AI. Zij zetten de taalprogramma’s met name in voor het toegankelijker formuleren van teksten en het samenvatten van omvangrijke documenten. Diverse respondenten gaven aan veel druk te ervaren om generatieve AI te omarmen. ‘Je wordt helemaal gek van die hype rond AI,’ hekelt een van hen. ‘Alle aanbieders komen met oplossingen en trainingen. Er ontstaat een soort FOMO-gevoel (‘fear of missing out’, red.), waardoor je bijna denkt: ik móét nu iets doen. Terwijl AI eigenlijk al zo’n zeventig jaar bestaat en we binnen de overheid al lange tijd met machine learning werken. Toch voelt het ineens alsof het iets volledig nieuws is en je er onmiddellijk mee aan de slag moet.’
Als belangrijkste redenen voor het gebruik van AI-programma’s noemen de ambtenaren de vergrijzing van het personeelsbestand en de tijdwinst. Ook kwam naar voren dat ambtenaren zelden stilstaan bij de ethische vraagstukken die het gebruik van dergelijke programma’s in een vroeg stadium met zich meebrengt. Volgens een respondent zou aandacht voor deze kwesties het moeilijk maken om innovaties van de grond te krijgen.
Terwijl we medicijnen eerst uitvoerig testen onder gecontroleerde omstandigheden, vinden experimenten met AI midden in de samenleving plaats
“Terwijl we medicijnen eerst uitvoerig testen onder gecontroleerde omstandigheden, vinden experimenten met AI midden in de samenleving plaats,” zegt Wiep Hamstra. Zij is communicatie-expert en adviseert verschillende overheidsinstellingen over het gebruik van chatbots en taalmodellen. “Wie gebruikmaakt van dit soort taalmodellen, kan eenvoudig informatielekken veroorzaken. Gegevens worden afgegeven aan een onbeveiligde omgeving. Bovendien sponsor je Amerikaanse bedrijven met een niet altijd even transparante agenda. Als je voortdurend informatie invoert over bijvoorbeeld noodpakketten, kunnen anderen daar conclusies uit trekken. Het is dus logisch dat niet met externe partijen wordt gedeeld waar we op dit moment mee bezig zijn.”
Illusie
Naast de privacykwestie is Hamstra ook kritisch op de uitkomst van het gebruik van ChatGPT door ambtenaren. “Een taalmodel is in feite een wiskundige berekening die op basis van statistische waarschijnlijkheden een logisch volgend woord gokt aan de hand van woordpatronen. Dat proces staat echter los van de daadwerkelijke betekenis. Een samenvatting die door zo’n model wordt gegenereerd, is daarom geen echte samenvatting, maar een constructie op basis van kansberekeningen. Het heeft eigenlijk weinig met taalbegrip te maken. Doordat de uitkomsten menselijk ogen, trappen we er toch in. Het lijkt zo authentiek, dat we geneigd zijn de illusie te geloven.”
Er is aangetoond dat het corrigeren van fouten die de machine maakt meer tijd kost dan het zelf schrijven van een tekst
Daarnaast beschouwt Hamstra taalmodellen als een oplossing voor een probleem dat in wezen niet bestaat. “Tijd wordt vaak als belangrijkste reden genoemd voor het gebruik van dergelijke modellen, ook door ambtenaren. Maar een schrijver kan zelf een passende samenvatting maken. Bovendien kun je leren hoe tekststructuren in elkaar zitten, waardoor je sneller door teksten leert lezen. Daarnaast is al aangetoond dat het corrigeren van fouten die de machine maakt vaak meer tijd kost dan het zelf schrijven van een tekst. En zelfs als tijdsgebrek het werkelijke probleem zou zijn, kan een overheidsinstantie zich afvragen of de beschikbare tijd wel op de juiste manier wordt besteed.”
De redactie biedt u dit verhaal gratis aan. Meer Haagse verhalen? Neem een (proef)abonnement op weekkrant Den Haag Centraal. Elke donderdag in de bus. De krant is ook verkrijgbaar bij onze verkooppunten.
