SyRI: Spy on the poor
Haagse rechtbank oordeelt dat de overheidsoperatie Syri onrechtmatig is. Daarmee worden allerlei gegevens van personen gekoppeld om er vervolgens met een geheime profileringsalgoritme uitkeringsfraude mee op te sporen. Het programma werd tot ver over de landsgrenzen zwaar bekritiseerd. Criminologe Gwen van Eijk schrijft erover op het blog Sargasso.
(Door Gwen van Eijk, overgenomen van Sargasso, illustratie van website https://bijvoorbaatverdacht.nl/)
Landmark ruling by a Dutch court stops government attempts to spy on the poor. This is a clear victory for all those who are justifiably concerned about the existential threats digital government and digital welfare poses for human rights.
Aldus Philip Alston, VN-Special Rapporteur on extreme poverty and human rights, over de uitspraak van de Haagse rechtbank over SyRI, het geheime profileringsalgoritme waarmee de overheid uitkeringsfraude wil opsporen. Voor SyRI worden een groot aantal persoonlijke gegevens die de overheid heeft van haar burgers gekoppeld en met behulp van een (geheim) algoritme doorzocht op afwijkende patronen. De rechtszaak tegen de Staat was aangespannen door een collectief van burgerrechtenorganisaties en de FNV die de campagne ‘Bij Voorbaat Verdacht’ startten.
Recht op respect voor het privéleven
De rechtbank oordeelde gisteren dat het Systeem Risico Indicatie (SyRI) onrechtmatig is want in strijd met het recht op respect voor het privéleven zoals vastgelegd in artikel 8 van het Europees Verdrag voor de Rechten van de Mens (EVRM):
De rechtbank komt tot het oordeel dat de SyRI-wetgeving in haar huidige vorm de toets van artikel 8 lid 2 EVRM niet doorstaat. De rechtbank heeft de doelen van de SyRI-wetgeving, namelijk het voorkomen en bestrijden van fraude in het belang van het economisch welzijn, afgezet tegen de inbreuk op het privéleven die de wetgeving maakt. Volgens de rechtbank voldoet de wetgeving niet aan de ‘fair balance’ die het EVRM vereist om te kunnen spreken over een voldoende gerechtvaardigde inbreuk op het privéleven. De wetgeving is wat betreft de inzet van SyRI onvoldoende inzichtelijk en controleerbaar. De wetgeving is onrechtmatig want in strijd met hoger recht en dus onverbindend.
De SyRI-uitspraak “sets a strong legal precedent for other courts to follow”, zegt Alston tegen The Guardian. Het is de eerste keer dat een rechter ergens ter wereld het gebruik van digitale technologie en digitale informatie door autoriteiten op grond van mensenrechten verbiedt.
Discriminatie
Het recht op respect voor het privéleven omvat ook ‘het recht op bescherming tegen discriminatie, stereotypering en stigmatisering’, aldus de uitspraak. De Raad van State wees eerder al op het gevaar van (onbedoelde) discriminerende effecten. Daarover zei de rechtbank gisteren dat de inzet in zogenoemde ‘probleemwijken’ op zichzelf niet hoeft te betekenen dat die inzet disproportioneel of anderszins in strijd is met het EVRM. Maar, gegeven de grote hoeveelheden gegevens die in aanmerking komen voor verwerking in SyRI,
bestaat wel het risico dat met de inzet van SyRI onbedoeld verbanden worden gelegd op basis van bias, zoals een lagere sociaal economische status of een immigratieachtergrond, zoals NJCM c.s. betoogt. Op basis van de SyRI-wetgeving kan niet worden beoordeeld of dit risico voldoende is ondervangen, bij gebrek aan controleerbaar inzicht in de risico-indicatoren en (de werking van) het risicomodel. […] De wijze van totstandkoming van de definitieve risicoselectie is immers niet openbaar.
Aanvulling GI: een informatief filmpje over SyRI van bijvoorbaatverdacht.nl {youtube}2GkXCzYdrBY{/youtube}