DataFryslân, studenten en CBS ontwikkelen een checklist eerlijke algoritmen

2 februari 2021

Een zogeheten eerlijk algoritme (‘fair algorithm’) kan discriminatie voorkomen, maar hoe doe je dat nou in de praktijk? Om Friese gemeenten bij dit vraagstuk te helpen heeft DataFryslân aan studenten van RuG/Campus Fryslân die de minor ‘Data Wise’ volgen gevraagd om zich te verdiepen in dit onderwerp en samen met het Centraal Bureau voor de Statistiek (CBS) een praktisch advies op te stellen.

In de afgelopen maanden hebben studenten een checklist ontwikkelt die geschikt is voor zowel beleidsmakers als datawerkers. Bij de ontwikkeling hiervan hebben ze zich verdiept in literatuur over eerlijke algoritmen en hebben zogeheten ‘gevoelige kenmerken’ geselecteerd. In een samenwerking met het CBS heeft dit geresulteerd in een praktische checklist.

‘Gemeenten gebruiken steeds vaker slimme algoritmes en voorspellende systemen om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen,’ zo meldde de Nederlandse Omroep Stichting (NOS) onlangs naar aanleiding van kritiek op de inzet van algoritmen.

Algoritmes kunnen enorme voordelen opleveren bij het nemen van besluiten. Ze zijn sneller dan mensen en kunnen beter patronen herkennen. Critici waarschuwen echter ook voor nadelen bij het gebruik van  algoritmen omdat die bijvoorbeeld discriminatie in de hand kunnen werken.

Met de checklist kunnen gemeenten voordat ze met algoritmen aan de slag gaan, een eerste inschatting te maken hoe risicovol het algoritme is en daarmee kans op bijvoorbeeld discriminatie verkleinen.

Meer weten? Bekijk hier de infographics in het Fries, Nederlands en Engels.

Zie ook

 

/Hub Wegen naar welvaart zoomt in op de zorg

/Hub Wegen naar welvaart zoomt in op de zorg

De zorg in Fryslân kan vooralsnog uit de voeten met het opvangen van de uitstroom van zorgmedewerkers. Maar voor het opvangen van de groeiende zorgvraag is de instroom van gekwalificeerd personeel op langere termijn te klein. Dat is een van de kernconclusies van het...

Lees meer
DataFryslân in 2022 verder als coöperatie

DataFryslân in 2022 verder als coöperatie

DataFryslân groeit. Wat begon als samenwerkingsverband van zeven organisaties die zich ten doel stelden om datagedreven werken in Fryslân te versterken, wordt een coöperatie met groeiambities. Daarin gaan Friese overheden, kennisinstellingen en private partijen...

Lees meer
Een van onze data-events gemist?

Een van onze data-events gemist?

Het YouTubekanaal van DataFryslân is helemaal up-to-date gebracht. Dat biedt een mooie gelegenheid om je geheugen nog even op te frissen of om kennis te maken met de vele uiteenlopende data-events van het afgelopen jaar. Op het YouTubekanaal van DataFryslân zijn nu de...

Lees meer
/LAB Leefbaarheid: hoe vertaal je gevoel in data?

/LAB Leefbaarheid: hoe vertaal je gevoel in data?

Het DataFryslân-/LAB ‘De vele gezichten van woongenot’, waarvan de startsessie op 26 oktober werd gehouden, zoomde in op de vraag hoe data kunnen helpen de leefbaarheid in wijken in kaart te brengen. Een hot item voor /LAB-deelnemer Harm Booij, regisseur Data &...

Lees meer
/LAB: De vele gezichten van woongenot

/LAB: De vele gezichten van woongenot

Welke factoren bepalen de leefbaarheid in een wijk? En hoe destilleer je uit de overvloed aan data die daarmee te maken hebben de informatie die nodig is om op te kunnen sturen? ‘Leefbaarheid is de mate waarin de omgeving aansluit bij de eisen en wensen die er door de...

Lees meer