China ontwikkelt “kunstmatige openbare aanklager”
De Chinese opsporingsautoriteiten zouden in de toekomst nog meer digitale steun kunnen krijgen. Wetenschappers uit Shanghai hebben een systeem ontwikkeld dat veelvoorkomende misdrijven kan herkennen en zelf een juridische aanklacht kan indienen.
(Door Tomas Rudl, netzpolitik, vertaling globalinfo.nl, die dol is op donateurs foto door Alien system op Unsplash)
Chinese wetenschappers hebben een “aanklager met kunstmatige intelligentie” ontwikkeld, meldt de South China Morning Post. De software zou aanklachten kunnen indienen met een betrouwbaarheid van 97% en is gespecialiseerd in het herkennen van de acht meest voorkomende misdrijven in Shanghai.
Chinese openbare aanklagers vertrouwen al op geautomatiseerde ondersteuning; het zogeheten “systeem 206” is sinds 2019 bijzonder wijdverbreid. Dit systeem transcribeert onder meer ondervragingsprotocollen, digitaliseert dossiers en wordt geacht tegenstrijdig bewijsmateriaal op te sporen. Zij neemt echter nog geen onafhankelijke beslissingen.
Omvangrijk trainingsmateriaal
Het nu gepresenteerde systeem is ontwikkeld en getest in Shanghai, het grootste parket van China. Meer dan 17.000 zaken tussen 2015 tot 2020 dienden als trainingsmateriaal. Het systeem kan verdachten uit de door mensen aangelegde dossiers beoordelen op basis van 1.000 “kenmerken”, aldus de krant.
Veel voorkomende delicten zijn naar verluidt fraude met creditcards en diefstal, maar ook verzet tegen het gezag en verstoring van de openbare orde. Dit laatste wordt vaak gebruikt om afwijkende meningen te onderdrukken, schrijft de Post. Een upgrade van het systeem is al in de maak. Het zal meer overtredingen kunnen opsporen en meerdere aanklachten tegen één verdachte kunnen indienen.
De invoering van het systeem zal echter waarschijnlijk niet zonder kritiek blijven. “De betrouwbaarheid van 97 procent klinkt misschien hoog, vanuit technologisch oogpunt, maar er zal altijd een risico van fouten zijn,” citeert de Post een niet met name genoemde menselijke aanklager uit Guangzhou. “Wie neemt dan de verantwoordelijkheid in dergelijke gevallen? De aanklager, de machine of de ontwikkelaars van het algoritme?” Bovendien kan het systeem alleen voortbouwen op eerdere gevallen en kan het dus geen rekening houden met nieuwe maatschappelijke ontwikkelingen.
Mondiale wedloop om kunstmatige intelligentie
In 2017 presenteerde China een ambitieus ontwikkelingsplan voor kunstmatige intelligentie; tegen 2030 wil het land de internationale leider worden in het gebruik van de technologie. Sindsdien is snel vooruitgang geboekt: al in 2020 heeft China wereldwijd de meeste wetenschappelijke papers en octrooien op het gebied van kunstmatige intelligentie ingediend, schrijft de wetenschappelijke dienst van het Europees Parlement.
In tegenstelling tot Europa hoeft China zich niet veel zorgen te maken over gegevensbescherming en privacy, en de enorme binnenlandse markt helpt bij de ontwikkeling. Videobewaking met gezichtsherkenning is gemeengoed geworden, en het land exporteert zijn bewakingstechnologie steeds meer naar het buitenland.
De islamitische provincie Xinjiang wordt beschouwd als een laboratorium voor nieuwe repressietechnieken. Daar volgt het Chinese apparaat de etnische groep van de Oeigoeren met onder meer videobewaking en kunstmatige intelligentie voor raciale profilering; ook worden leugendetectoren met emotieherkenning gebruikt. Ongeveer een miljoen Oeigoeren zouden in zogenaamde heropvoedingskampen bevinden, waar massale schendingen van de mensenrechten en dwangarbeid aan de orde van de dag zijn.
China is verontwaardigd over kritiek uit het buitenland: Nadat de nieuwe Duitse minister van Buitenlandse Zaken Annalena Baerbock zich had uitgesproken voor een hardere koers ten opzichte van autoritaire staten, waarschuwde China dat “de Chinees-Duitse betrekkingen objectief en holistisch moeten worden bekeken”. Onlangs had Baerbock aangekondigd dat zij niet naar de Olympische Spelen in China zou reizen in verband met de mensenrechtensituatie.