De overheid moet stoppen met het gebruiken van algoritmes om fraude en criminaliteit op te sporen. Steeds meer overheidsinstanties maken gebruik van zogenoemde datagedreven profilering, maar dit leidt in de praktijk vaak tot discriminatie, stelt de Staatscommissie tegen Discriminatie en Racisme vast. De commissie komt volgende maand met een rapport hierover.
De commissie noemt de toeslagenaffaire als voorbeeld, maar ook DUO. Tussen 2012 en 2023 werden zo’n 10.000 studenten op basis van een discriminerend algoritme gecontroleerd op fraude met studiefinanciering. De overheidsinstantie hanteerde een selectieprocedure voor fraude waarbij uitwonende studenten met een migratieachtergrond eerder in beeld kwamen dan autochtone studenten.
Volgens de voorzitter van de commissie, Joyce Sylvester, kunnen allerlei groepen getroffen worden. “Het kunnen jongeren zijn, maar ook ouderen of mensen in bepaalde wijken. Over het algemeen raakt het mensen die sociaal-economisch zwakker en kwetsbaar zijn.”
Verouderde data
Volgens de commissie is het gebruik van zulke algoritmes in strijd met de belangrijkste principes van goed bestuur. Zo ontbreken er wettelijke kaders waarin staat hoe datagedreven profilering gebruikt mag worden. Ook baseren algoritmes hun opsporing voor fraude op verouderde data. Als er in de oude gegevens al sprake was van discriminatie, kan het algoritme dat gaan herhalen en zelfs versterken.
Overheidsinstanties zeggen vaak de algoritmes in te zetten omdat dat efficiënter zou zijn dan andere methoden om fraude vast te stellen, maar volgens de commissie is daar weinig overtuigend bewijs voor. “Ze denken dat ze efficiënt bezig zijn, maar wij zeggen: kijk wat het kost als het misgaat”, zegt Sylvester.
Daarnaast is het een probleem dat burgers vaak niet weten dat ze geprofileerd worden door de algoritmes, en welke algoritmes en criteria daarvoor worden gebruikt. Het Algoritmeregister dat overzicht moet bieden aan burgers over hoe de overheid algoritmes gebruikt en wanneer, is gebrekkig.
‘Stop met algoritmes’
De commissie roept de overheid daarom dus op om te stoppen met de datagedreven profilering, zolang discriminatie niet kan worden voorkomen. Er zijn andere methodes die de overheid kan gebruiken om fraude op te sporen, zoals aselecte controles of willekeurige steekproeven.
“Omdat profilering raakt aan kernprincipes van de rechtsstaat, democratie en goed bestuur, moet de overheid transparant zijn over haar keuzes en aantonen dat de inzet van profielen effectief is en geen schade veroorzaakt. Dit vraagt om extra waakzaamheid en terughoudendheid”, zegt Sylvester.
Het verzamelen van data kan wel een belangrijke manier zijn om ongelijkheid in kaart te brengen en tegen te gaan, maar dan moeten mensen hier toestemming voor geven “en vervolgens volwaardig worden betrokken bij beleid.”
‘Overheid moet stoppen met algoritmes die leiden tot discriminatie’ 2026 IUSTITIA.BG – Investigations 2009-2026 2026-05-07 14:39:58 Laatste nieuws, wereldnieuws, landsnieuws, belangrijkste nieuws, laatste nieuws, belangrijkste, laatste van de dag, Justitie, Petar Nizamov, Veren, Petar Nizamov- Veren, Justitie bg, iustitia.bg, iustitia, iusticia, usticia, onderzoek, Boergas, Bulgarije, nieuws, breaking news, nieuws van de dag, nieuws van vandaag, nieuws van vandaag, Bulgarije nieuws, Het nieuws uit Bulgarije, blitz nieuws, top nieuws, belangrijkste, meest besproken, laatste nieuws, Boyko Borisov, nieuws, weer, coronavirus, nieuws, nieuws, weer, facebook, youtube, facebook, instagram, nieuws van vandaag, last minute nieuws, nieuws vandaag, nieuws van vandaag, nieuws, bg nieuws, leading news, hot news, bg nieuws, nieuwssite, al het nieuws, nieuws bg, nieuws van het laatste uur, laatste, laatste nieuws bg, nieuws van vandaag, nieuws vandaag, nieuws van het laatste uur, laatste nieuws, vandaag, nieuws bg, nieuws, nieuws vesti, 24 uur nieuws, vesti bg novini, wereld nieuws, vogel bg, bivol bg, bivol, trud bg novini, laatste nieuws vandaag, novinite bg nieuws, hallo bulgarije, wapen van politieke partij, delyan peevski, schandalig, bulgaarse nationale televisie, vrij europa, televisie, schandaal, exclusief, live, live tv nu, tv, tv online, tv-programma, bg, live nu, tv-nieuws, online, live tv online, rechtbank, rechtbank van burgas, districtsrechtbank van burgas, rechtbank van burgas, districtsrechtbank van burgas, districtsrechtbank van burgas, hof van beroep van burgas, officier van justitie van burgas, kantoor van de officier van justitie van burgas, kantoor van de officier van justitie van burgas, hoofdofficier van justitie, ivan geshev, officier van justitie geshev, tsatsarov, mvr burgas, odmvr burgas, odp burgas, politie burgas, districtspolitie burgas, officier van justitie tsatsarov, sgs-zaken, rechtbank varna, voorzitter van het Hooggerechtshof, gerechtelijke uitspraken in civiele zaken zaken, beslissingen in zaken, rechtbank van Plovdiv, gerechtelijke beslissing, beslissingen in zaken, rechtbank van Varna, strafrechtelijk, zaken, district, beslissingen van de districtsrechtbank, werk bij de rechtbank, voorzitter van het Hooggerechtshof, rechters van het Hooggerechtshof, rechtbank van Sofia, plaatsvervangende rechters, Plovdiv, rechtbank van Plovdiv, rechters Plovdiv, Hooggerechtshof, Inspectie van het Hooggerechtshof, Hoge Raad van Justitie, Hooggerechtshof, Hoge Raad van Justitie, advocaat, advocaat strafzaken, advocaat civiele zaken, advocaat huwelijkszaken, advocaat administratief, strafrecht, strafrechtelijk proces, burgerlijk recht, burgerlijk proces, bestuursrecht, staatsrecht,
