Het kraken door de politie van de versleutelde berichtendiensten Ennetcom en Encrochat bewijst dat digitale hulpmiddelen de opsporing van criminaliteit kunnen verbeteren (veiligheid). Ook kunnen ze de politie helpen om haar relatie en communicatie met burgers te verbeteren (vertrouwen) en haar werkprocessen te stroomlijnen (efficiency). Daar staat tegenover dat het gebruik van digitale technologie een goede invulling in de weg kan staan van andere publieke waarden, zoals non-discriminatie, accountability (met menselijke tussenkomst) en het recht op privacy van burgers.
Zeven uitdagingen
De opdracht, niet alleen van de politie maar ook van politiek en samenleving, is om een evenwicht te vinden tussen de verschillende publieke waarden die in het geding zijn bij de inbedding en toepassing van digitale tools en AI in het politiewerk.
Voor bescherming van de grondrechten is een adequaat wettelijk kader vereist
De Wetenschappelijke Adviesraad Politie (WARP) onderzocht wat een juiste balans tussen veiligheid en effectiviteit enerzijds en het recht om niet-gediscrimineerd te worden en privacy anderzijds in de weg staat. WARP identificeert zeven grote uitdagingen.
- Wettelijk kader
Voor bescherming van de grondrechten van burgers is een nieuw wettelijk kader vereist. Ook moet er onafhankelijk toezicht zijn op de verwerking door de politie van grote hoeveelheden data van burgers.
- Overkoepelend ethisch, wettelijk en maatschappelijk raamwerk
Voor een structurele en duurzame inrichting van maatschappelijk verantwoorde innovatie is een overkoepelend (ELSA) raamwerk nodig. Cruciaal bij de ontwikkeling van dat raamwerk is dat burgers, wetenschappers en andere partijen in een vroeg stadium actief bij de totstandkoming ervan worden betrokken.
Hoe moet de politie omgaan met haar afhankelijkheid van private partijen?
- Samenwerking met de private sector
Voor datagedreven werken en de inzet van AI kan de politie niet anders dan samenwerken met private partijen. Zij zijn namelijk vaak eigenaars van de nieuwste AI-technologie. Maar hoe moet de politie omgaan met haar afhankelijkheid van private partijen? Die vraag is relevant vanwege de gevoeligheid van de gegevens en het geweldsmonopolie van de politie, maar ook gelet op de huidige geopolitieke ontwikkelingen. De grote internationale techbedrijven zetelen voor een groot deel in de Verenigde Staten, een land waarvan de politieke koers tamelijk onvoorspelbaar is geworden.
- Governance-strategie datahuishouding
Goed omgaan met data – van de borging van kwaliteit (vuile data) en het delen van informatie tot het in acht nemen van verwerkings- en bewaartermijnen (privacy compliance) – is een hele opgave, met name voor complexe organisaties zoals de politie. Vooralsnog is er geen strategie die de datahuishouding van de gehele politieorganisatie, op alle niveaus, van voldoende checks and balances voorziet.
- Data- en AI-geletterdheid
Een politieagent moet om kunnen gaan met fysieke geweldsmiddelen, zoals dienstpistool en wapenstok. Maar ook digitale hulpmiddelen moeten de agent niet vreemd zijn.
WARP vindt dat tweedeling binnen de politie moet worden voorkomen
Een goede omgang met digitale en AI-toepassingen, onmisbaar in het huidige politiewerk, vereist kennis en training van nieuwe basisvaardigheden. Dat op zijn beurt vraagt om structurele inbedding in het basis-, vakspecialistisch en hoger politieonderwijs – en in andere leertrajecten binnen de organisatie.
- Bredere kijk op toepassingsgebieden
De nadruk op het gebruik van AI bij de politie ligt op strafrechtelijke rechtshandhaving, in het bijzonder waar het gaat om de bestrijding van georganiseerde criminaliteit. Ook ontwikkelt de politie veel praktische toepassingen waarbij operationele vragen vanuit de praktijk meestal het vertrekpunt vormen.
Veel minder aandacht is er voor de vraag hoe AI kan bijdragen aan andere toepassingsgebieden, zoals de versterking van de relatie tussen politie en burgers en het daarop gebaseerde vertrouwen.
- Effectiviteit voorspellende datatoepassingen
Bij de ontwikkeling en inzet van data- en AI-toepassingen is het zicht op effectiviteit vaak beperkt. Daardoor is het problematisch om publieke waarden als proportionaliteit en subsidiariteit – en daarmee legitimiteit – daadwerkelijk inhoud te geven.
Adviezen
WARP heeft ook nagedacht over hoe aan de geïdentificeerde uitdagingen het hoofd kan worden geboden, niet alleen door de politie, maar ook door politiek en samenleving. De adviezen variëren van een betere governance van de datahuishouding tot ontwikkeling van een ELSA-raamwerk en het actualiseren van de opleiding voor politieprofessionals.
Concreet adviseert de adviesraad de volgende stappen:
- Instelling van een evaluatiecommissie Wet politiegegevens voor onafhankelijk onderzoek naar de wisselwerking van vergaren en verwerken van gegevens en het uitoefenen van professioneel en onafhankelijk toezicht.
- Ontwikkeling van een overkoepelend (ELSA-)raamwerk als standaard voor ontwikkeling, aanschaf en gebruik van nieuwe toepassingen op het gebied van data en AI. Actieve transparantie moet daarbij de regel zijn: ‘Openbaar, tenzij.’
- Opstelling van een toetsings- en samenwerkingskader met duidelijke voorwaarden voor samenwerking met private partijen.
Leren van en met elkaar en directe toepassing van opgedane kennis zijn cruciaal
- Verankering van AI-toepassingen in de bredere governance van de organisatie. Duidelijk moet zijn welke typen besluiten waar in de organisatie genomen worden. Daarnaast zijn meer regie en sturing op ontwikkelingen rondom de datahuishouding noodzakelijk om de datakwaliteit te verbeteren.
- Data- en AI-geletterdheid moet een integrale basisvaardigheid worden, via reguliere opleidingen en learning communities. Leren van en met elkaar en directe toepassing van opgedane kennis zijn cruciaal. De ontwikkeling van een kritische digitale mindset – in relatie tot het eigen werk – moet voorop staan om blijvend de juiste afwegingen te maken bij het realiseren van uiteenlopende (en vaak conflicterende) publieke waarden.
- Grotere aandacht voor data en AI-toepassingen die mogelijkheden bieden om de relatie met, en het vertrouwen van burgers (‘positieve veiligheid’) te versterken.
- Meer empirisch onderzoek naar de effectiviteit van door de politie ingezette technologieën op het gebied van data en AI. Is er een effect en zo ja onder welke omstandigheden (instrumenteel) en is de toepassing van de technologie wenselijk en uitlegbaar (normatief)?
- Geen verdere inzet op (algoritmische) toepassingen gericht op het voorspellen van (crimineel) gedrag op persoonsniveau en dat ook publiekelijk kenbaar maken. Daarmee kan de politie legitieme maatschappelijke zorgen wegnemen zonder dat dit ten koste gaat van de doelmatigheid en doeltreffendheid van haar optreden.
Aanbevelingen onderschreven
In haar reactie op het rapport zegt de korpschef van de Nationale Politie Janny Knol dat zij de uitdagingen herkent die WARP heeft geïdentificeerd. ‘Ze geven een goed beeld van wat er nodig is om adequaat en legitiem gebruik te maken van digitalisering en AI in politiewerk.’
Marc Schuilenburg, voorzitter van de werkgroep van het advies, is blij met de reactie van Knol. ‘De korpschef herkent niet alleen de door ons geïdentificeerde uitdagingen als het gaat om datagedreven werk en de toepassing van AI in de politieorganisatie. Meer nog, zij onderschrijft ook onze aanbevelingen en gaat er mee aan de slag. Meer impact op dit complexe gebied van algoritmes en AI kun je niet wensen.’
Jan van Dam is freelance journalist. Het rapport Navigeren in niemandsland en de reactie van de korpschef politie is hier te downloaden.
Foto: Cottonbro studio via Pexels.com