DataFryslân, studenten en CBS ontwikkelen een checklist eerlijke algoritmen

2 februari 2021

Een zogeheten eerlijk algoritme (‘fair algorithm’) kan discriminatie voorkomen, maar hoe doe je dat nou in de praktijk? Om Friese gemeenten bij dit vraagstuk te helpen heeft DataFryslân aan studenten van RuG/Campus Fryslân die de minor ‘Data Wise’ volgen gevraagd om zich te verdiepen in dit onderwerp en samen met het Centraal Bureau voor de Statistiek (CBS) een praktisch advies op te stellen.

In de afgelopen maanden hebben studenten een checklist ontwikkelt die geschikt is voor zowel beleidsmakers als datawerkers. Bij de ontwikkeling hiervan hebben ze zich verdiept in literatuur over eerlijke algoritmen en hebben zogeheten ‘gevoelige kenmerken’ geselecteerd. In een samenwerking met het CBS heeft dit geresulteerd in een praktische checklist.

‘Gemeenten gebruiken steeds vaker slimme algoritmes en voorspellende systemen om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen,’ zo meldde de Nederlandse Omroep Stichting (NOS) onlangs naar aanleiding van kritiek op de inzet van algoritmen.

Algoritmes kunnen enorme voordelen opleveren bij het nemen van besluiten. Ze zijn sneller dan mensen en kunnen beter patronen herkennen. Critici waarschuwen echter ook voor nadelen bij het gebruik van  algoritmen omdat die bijvoorbeeld discriminatie in de hand kunnen werken.

Met de checklist kunnen gemeenten voordat ze met algoritmen aan de slag gaan, een eerste inschatting te maken hoe risicovol het algoritme is en daarmee kans op bijvoorbeeld discriminatie verkleinen.

Meer weten? Bekijk hier de infographics in het Fries, Nederlands en Engels.

Zie ook

 

DataFryslân brengt Ferfiersearmoed in Fryslân in beeld

DataFryslân brengt Ferfiersearmoed in Fryslân in beeld

8,4 procent van de Friese huishoudens loopt een hoog risico op vervoersarmoede (ferfiersearmoed). Dat zijn 25.714 huishoudens die te maken hebben met een belemmering van hun maatschappelijke, economische of sociale activiteiten doordat zij niet of moeilijk bepaalde...

Lees meer
Ethiek is geen kwestie van lijstjes afvinken

Ethiek is geen kwestie van lijstjes afvinken

Kan het? Mag het? Is het wenselijk? Deze drie simpele vragen kunnen de grondslag vormen voor een ethisch databeleid. Maar is het genoeg? Tijdens het DataFryslân-/Sympodium ‘Data-Ethyk yn Fryslân’ op 13 oktober werden op filosofische en praktische wijze gekeken naar de...

Lees meer
DataFryslân opent Fryske Earmoedatlas

DataFryslân opent Fryske Earmoedatlas

DataFryslân heeft de Fryske Earmoedatlas gepresenteerd, de eerste permanente armoedemonitor voor de provincie Fryslân. In de online dashboards kunnen bestuurders, beleidsmakers, maar ook de Friese burgers zelf de resultaten zien van het grootste en meest...

Lees meer
DataFryslân vraagt om uw datavragen

DataFryslân vraagt om uw datavragen

Vanaf dit jaar kunnen alle Friese (maatschappelijke) organisaties die een datavraagstuk onderzocht willen hebben dat betrekking heeft op Fryslân een aanvraag indienen voor een data-onderzoek door DataFryslân. Uit de aanvragen wordt een selectie gemaakt van de thema’s...

Lees meer
Napraten: /PODIUM Data & Bioferskaat

Napraten: /PODIUM Data & Bioferskaat

Voor het /PODIUM Data & Bioferskaat hield Jarren Verbeek, specialist GIS & Remote sensing bij Cobra Groeninzicht, onlangs een presentatie over de manier waarop data kunnen helpen in kaart te brengen hoe stedelijk groen erbij staat en wat ervoor nodig is om...

Lees meer