D66: meer openheid over algoritmes

D66 West Betuwe heeft schriftelijke vragen gesteld over het gebruik van algoritmes. 

West- Betuwe - Gemeenten moeten open zijn over het gebruik van algoritmes. Daartoe roepen tientallen D66-gemeenteraadsleden hun colleges van burgemeester en wethouders op na aanleiding van een rapport van de Mr. Hans van Mierlo Stichting, het wetenschappelijk bureau van D66. In gemeente West Betuwe heeft D66-raadslid Ashley Karsemeijer schriftelijke vragen gesteld aan het college. Karsemeijer: “Steeds vaker maken niet mensen, maar computers met behulp van algoritmes keuzes over hoe de overheid inwoners behandelt. Er is veel vertrouwen in algoritmes, omdat wordt aangenomen dat die neutraal en waardevrij zijn. Dat is niet per se zo. Daarom wil ik meer inzicht in wat voor algoritmes wanneer worden ingezet.”

Toenemend gebruik
Uit onderzoek blijkt dat minstens vijftig procent van de gemeenten gebruik maakt van algoritmes: digitale formules die verbanden kunnen vinden in enorme datasets. Ze worden bijvoorbeeld gebruikt bij het opsporen van sociale zekerheidsfraudeurs, het voorspellen van voortijdige schoolverlating of het bepalen van de inzet van politieagenten. Maar het risico van discriminatie ligt op de loer, bijvoorbeeld als algoritmes helpen bepalen welke groepen mensen vaker gecontroleerd worden op crimineel gedrag of fraude. Onderzoeker Laura de Vries van de Van Mierlo Stichting: “Dit zijn urgente vragen waar politici zich over moeten ontfermen. Juist binnen gemeenteraden zou het debat over dit onderwerp flink aangezwengeld moeten worden. Daarom is het zo mooi dat hier raadsvragen over worden ingediend.”

Democratische controle
Er is weinig bekend over de inzet door gemeenten en daardoor hebben burgers en lokale politici hier vaak onvoldoende zicht op. Dit belemmert de controlerende taak van gemeenteraadsleden. Daarom wil D66 dat er meer openheid komt over de manier waarop algoritmes bij gemeenten in besluitvorming worden ingezet. D66-Kamerlid Kees Verhoeven: “Algoritmes zijn onzichtbaar en ongrijpbaar, maar kunnen wel zeer ingrijpend zijn. Alle overheden moeten ze overwogen inzetten en er open over zijn. Anders krijgen we wildgroei die mensen en de samenleving kan schaden.”


Vragen aan het College van Burgemeester en Wethouders van de gemeente West Betuwe ex artikel 50 van het reglement van de orde van de gemeenteraad van West Betuwe.

Betreft: Openheid over algoritmes

Geacht College,

Uit onderzoek blijkt dat minstens vijftig procent van de gemeenten gebruik maakt van algoritmes: digitale formules die verbanden kunnen vinden in enorme datasets. Ze worden bijvoorbeeld gebruikt bij het opsporen van sociale zekerheidsfraudeurs, het voorspellen van voortijdige schoolverlating of het bepalen van de inzet van politieagenten. Maar het risico van discriminatie ligt op de loer, bijvoorbeeld als algoritmes helpen bepalen welke groepen mensen vaker gecontroleerd worden op crimineel gedrag of fraude. Er is weinig bekend over de inzet door gemeenten en daardoor hebben burgers en lokale politici hier vaak onvoldoende zicht op. Dit belemmert de controlerende taak van gemeenteraadsleden. Daarom heeft D66 een aantal vragen over het gebruik van algoritmes in West Betuwe.

Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van supervised learning of geeft zij hiertoe opdracht aan andere organisaties?

Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van?

Hoe zijn deze algoritmes tot stand gekomen?

Welke gegevens worden door de gemeente gebruikt voor het trainen van deze algoritmes? Welke gegevens worden door de gemeente gebruikt voor de implementatie van deze algoritmes?

Beschrijf per algoritme welk soort het betre? en voor welk vraagstuk zij dient. Beschrijf vervolgens het proces van het algoritme vanaf de dataverzameling, de dataverwerking en codering/omvorming de data-analyse, de uitkomst, decodering en de vervolgacties. Wat voor data zijn er verzameld en hoe zijn deze verzameld? Welke variabelen worden meegenomen in het model en welke niet? Hoe ziet de output eruit (bijvoorbeeld de kans per individu)? Hoe wordt besloten welke variabelen wel/niet mee worden genomen?

Maakt de gemeente gebruik van algoritmes die zijn getraind door middel van unsupervised learning of geeft zij hiertoe opdracht aan andere organisaties?

Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van?

Hoe zijn deze algoritmes tot stand gekomen? (zie toelichting bij vraag 1)

Welke (persoons)gegevens worden door de gemeente gebruikt voor het trainen en testen van deze algoritmes? Welke (persoons)gegevens worden door de gemeente gebruikt voor de implementatie van deze algoritmes?

Is de gemeente bereid om een openbaar register te publiceren waarin zij haar algoritmische toepassingen omschrijft en toelicht?

Is de gemeente zich bewust van de risico’s van onethisch gebruik van algoritmes, zoals discriminatie, stigmatisering, het beperken van persoonlijke vrijheden zoals zelfbeschikking en het in stand houden of versterken van ongelijkheid? Welke maatregelen neemt de gemeente om risico’s te vermijden en potentiële negatieve gevolgen tegen te gaan?

Is de gemeente zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit?

Neemt de gemeente ethische aspecten van algoritmes mee in inkoopvoorwaarden met leveranciers? Zo ja, welke voorwaarden zijn dit?

Heeft de gemeente een ethische commissie, met als voorbeeld de gemeente Enschede, aangesteld die zich ontfermt over of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet de gemeente het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen?

Is de gemeente bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente?

Heeft de gemeente advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)?

Wordt er door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is de gemeente bereid om hiervoor een aparte functionaris aan te stellen?

D66 West Betuwe stelt voor dat het college, al dan niet in samenwerking met de ethische commissie, een verdiepende bijeenkomst organiseert over de toepassing van algoritmen. Dit zou ook in regionaal verband kunnen. Wil het college hieraan meewerken? Het zou mooi zijn als raadsleden samen met ambtenaren en wethouder een goede opzet voor zo’n bijeenkomst bedenken.

Ashley Karsemeijer, fractievoorzitter D66 West Betuwe

Meer berichten

Het lokale nieuws in uw mailbox ontvangen?

Aanmelden