DataFryslân, studenten en CBS ontwikkelen een checklist eerlijke algoritmen

2 februari 2021

Een zogeheten eerlijk algoritme (‘fair algorithm’) kan discriminatie voorkomen, maar hoe doe je dat nou in de praktijk? Om Friese gemeenten bij dit vraagstuk te helpen heeft DataFryslân aan studenten van RuG/Campus Fryslân die de minor ‘Data Wise’ volgen gevraagd om zich te verdiepen in dit onderwerp en samen met het Centraal Bureau voor de Statistiek (CBS) een praktisch advies op te stellen.

In de afgelopen maanden hebben studenten een checklist ontwikkelt die geschikt is voor zowel beleidsmakers als datawerkers. Bij de ontwikkeling hiervan hebben ze zich verdiept in literatuur over eerlijke algoritmen en hebben zogeheten ‘gevoelige kenmerken’ geselecteerd. In een samenwerking met het CBS heeft dit geresulteerd in een praktische checklist.

‘Gemeenten gebruiken steeds vaker slimme algoritmes en voorspellende systemen om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen,’ zo meldde de Nederlandse Omroep Stichting (NOS) onlangs naar aanleiding van kritiek op de inzet van algoritmen.

Algoritmes kunnen enorme voordelen opleveren bij het nemen van besluiten. Ze zijn sneller dan mensen en kunnen beter patronen herkennen. Critici waarschuwen echter ook voor nadelen bij het gebruik van  algoritmen omdat die bijvoorbeeld discriminatie in de hand kunnen werken.

Met de checklist kunnen gemeenten voordat ze met algoritmen aan de slag gaan, een eerste inschatting te maken hoe risicovol het algoritme is en daarmee kans op bijvoorbeeld discriminatie verkleinen.

Meer weten? Bekijk hier de infographics in het Fries, Nederlands en Engels.

Zie ook

 

/LAB Ouderenzorg: zorgprognoses door de wasstraat

/LAB Ouderenzorg: zorgprognoses door de wasstraat

Het /LAB ‘Hoe voorkom je dat de ouderenzorg veroudert?’ trapte op 7 september af met een ambitieus doel: het leggen van een fundament voor een volledig en betrouwbaar voorspelmodel dat op basis van de juiste data van alle betrokken partijen een helder beeld geeft van...

Lees meer
/LAB Arbeidsmarkt: geslaagde inventarisatie van prangende vragen

/LAB Arbeidsmarkt: geslaagde inventarisatie van prangende vragen

Met een laatste gezamenlijke sessie op 2 september is het /LAB ‘Morgen werkt het anders: de toekomst van de arbeidsmarkt’ afgesloten. Voorafgaand aan de eerste sessie op 6 juli zei projectleider Wouter Marchand over het doel van dit data-event: “We willen in dit /LAB...

Lees meer
/SIMMERRIGE DEEL 5 –  Fryslân op de foto

/SIMMERRIGE DEEL 5 – Fryslân op de foto

We hebben eerder in deze zomerserie gezien dat Friezen meestal op een andere manier genieten van hun provincie dan bezoekers van buiten. Logisch natuurlijk, want een oude wetmatigheid is dat mensen zich in hun eigen omgeving niet als toerist gedragen; de meeste...

Lees meer
/SIMMERRIGE DEEL 4 – Hoe houdt Fryslân zijn gasten bezig?

/SIMMERRIGE DEEL 4 – Hoe houdt Fryslân zijn gasten bezig?

Nadat we hebben gezien hoe en waar bezoekers van Fryslân informatie zoeken over de provincie en waar ze hun verblijf kunnen boeken, is het logische vervolg om te onderzoeken wat de bezoekers doen als ze eenmaal in Fryslân zijn gearriveerd. Daarvoor kijken we naar...

Lees meer