Met de recente verkregen Europese overeenstemming over de AI Act, wereldwijd de eerste samenhangende AI-wetgeving, komt de ‘wildwest-periode’ van AI tot een einde. Er is veel aandacht voor het zichtbaar maken en beperken van de risico’s die het gebruik van de nieuwe technologie met zich meebrengt. Deze regulering is cruciaal, maar toch slechts een element in een geheel van acties dat nodig is om onze democratie te beschermen.
De opkomst van AI – nu met ChatGPT ook direct voor iedereen zichtbaar – fascineert, maar boezemt ook angst in. Worden oude schrikbeelden van een overname van de macht door robots nu toch waarheid? Verliezen we de democratische controle over het bestuur van het land?
Als bestuurswetenschapper kijk ik naar democratie en bestuur vanuit twee hoofdvragen: (1) wat willen we als burgers met onze samenleving? en (2) hoe kunnen we zorgen dat deze volkswil wordt gerealiseerd? Bij de eerste vraag gaat het om het democratische debat en democratische verkiezingen. Bij de tweede gaat het om een legitieme overheid die ondergeschikt is aan de volkswil. De inzichten van klassieke auteurs over deze vragen helpen om zicht te krijgen op moderne uitdagingen voor de democratie.
Het risico van een technocratie – een ‘gealgoritmiseerde’ democratie – dreigt
Beperkte bedreiging van publieke keuze
Voor het antwoord op de eerste vraag – wat willen we als burgers met onze samenleving? – begin ik bij Jeremy Bentham (1748-1832). Hij legt de nadruk op de bepaling van de gezamenlijke volkswil op basis van individuele preferenties van burgers: de publieke keuze benadering. In ons huidige stelsel hebben we daarvoor verkiezingen en (correctieve) referenda.
De technologische bedreiging van de publieke keuze lijkt vooralsnog beperkt. Stemcomputers werden als een risico gezien en deze gebruiken we inmiddels niet meer (al zijn er wel experts die ervoor pleiten deze terug te brengen). We stemmen gewoon nog met potlood en papier.
We stemmen gewoon nog met potlood en papier
Tegelijkertijd zijn er wel ontwikkelingen die op termijn een bedreiging kunnen gaan vormen. Daarbij gaat het met name om de ambitie bij ontwikkelaars van algoritmen om een superieur systeem te ontwikkelen om de individuele preferenties op te halen en te vertalen in de volkswil.
Het bedrijf Deepmind – nauw verbonden met Google – ontwikkelt een systeem om publiek geld te verdelen op basis van de uitgerekende preferenties van mensen. Helemaal in lijn met Bentham, zo lijkt het, maar het risico van een technocratie – een ‘gealgoritmiseerde’ democratie – dreigt (Februari, 2023).
Vervuiling van het publieke debat
Aanvullend op Bentham legt Jürgen Habermas (1929-) de nadruk op het publieke debat, de deliberatie die nodig is om gezamenlijk verschillende argumenten te wegen en via communicatieve rationaliteit tot collectief inzicht te komen. Bedreigingen voor de deliberatieve democratie doen zich reeds nu voor.
De vierde actie betreft handhaven
Het gaat hierbij om de ‘vervuiling’ van de publieke sfeer waardoor de het publieke debat wordt ondermijnd (zie De Ridder, Vliegenthart & Zuure, 2020). Nepnieuws, bewuste manipulatie en internetbubbels kunnen ervoor zorgen dat burgers niet meer met elkaar in debat kunnen treden doordat ze in verschillende werkelijkheden leven.
Reddingsoperatie 1: inperken macht van big tech
Om huidige en toekomstige bedreigingen het hoofd te bieden zijn activiteiten nodig op vele terreinen. Ik noem er zes. De eerste is het politiseren van techniek. We moeten inzien dat schijnbaar technische keuzen – bijvoorbeeld over het gebruik van algoritmen in slimme steden – politieke keuzen zijn en dus niet alleen door techneuten moeten worden genomen. Publieke waarden in en rondom de technologie moeten worden besproken en gewogen (zie Meijer, 2015).
De tweede is reguleren. De AI Act en allerlei andere vormen van Europese en nationale regulering zijn cruciaal voor het behoud van goede publieke informatievoorziening. De derde is normeren en actief richting geven aan technologieontwikkeling. Een voorbeeld hiervan zijn de principes voor digitale steden die zijn ontwikkeld door eerst Amsterdam en Eindhoven en later de VNG. De vierde actie betreft handhaven: de regels zullen uit zichzelf niet het gewenste effect opleveren. Handhaving vergt inspanning en aandacht.
Wat gebeurt er als papieren systemen worden vervangen door digitale of zelfs algoritmische systemen?
De vijfde is relativeren. Voor het behoud van de democratie is juist het relativeren van de technologie en het herwaarderen van het persoonlijk contact van belang (Hofstra, Michels & Meijer, 2023). Een zesde actie is het ontwikkelen van alternatieven. Een mooi voorbeeld is het plan van Nederland om een eigen versie van GPT te ontwikkelen – GPT-NL – om zo de afhankelijkheid van big tech bedrijven zoals Open AI te beperken.
Ondermijning van bureaucratische legitimiteit
Voor het antwoord op de tweede vraag – hoe kunnen we zorgen dat deze volkswil wordt gerealiseerd? – kunnen we ons baseren op het denken van Max Weber (1864-1920). Weber leert ons dat de overheidsorganisatie leidt tot legitieme uitoefening van gezag als deze ondergeschikt is aan de politiek en volgens regels werkt.
Informatievoorziening in de zin van archieven en documentaire systemen – Schriftligkeit – speelt een belangrijke rol in het denken van Weber. Maar wat gebeurt er nu als deze papieren systemen worden vervangen door digitale of zelfs algoritmische systemen?
Om ongewenste uitkomsten te voorkomen kan worden gedacht aan kritische tegendenkers
Ook deze bedreigingen worden steeds vaker besproken in de media: het algoritme dat de Belastingdienst gebruikte bij risicoselectie van fraude met toeslagen; het algoritme dat de gemeente Rotterdam ontwikkelde voor de bestrijding van bijstandsfraude; en het Risicotaxatie Instrument Geweld van de Nationale Politie. In alle gevallen wordt een algoritme gebruikt dat tot zeer onwenselijke uitkomsten leidt, zoals discriminatie of willekeur. Daarmee wordt de legitimiteit van de overheidsorganisatie ondermijnd.
Reddingsoperatie 2: goed algoritmisch bestuur
Bij het in kaart brengen van de bedreigingen voor de legitimiteit van bestuur signaleerde ik dat de kloof tussen politieke richting en technische realisatie groot is; het gebrek aan transparantie verhindert dat goed kan worden bekeken of regels worden gevolgd; en dat er vormen van discriminatie, privacyschending en willekeur kunnen optreden, zoals bovenstaande voorbeelden laten zien (Meijer, Grimmelikhuijsen & Bovens, 2022).
Dreiging ontstaat doordat intelligentie wordt geconcentreerd bij de eigenaars van technologie
Om te waarborgen dat de algoritmen wel correct worden gebruikt door overheden en bijdragen aan legitiem gezag is het belangrijk om zowel de politieke gevoeligheid van ambtenaren die algoritmen aansturen als het politiek toezicht hierop te versterken.
Verder zijn transparantie van algoritmisch bestuur en verheldering van verantwoordelijkheden nodig. En om ongewenste uitkomsten te voorkomen kan onder andere worden gedacht aan kritische tegendenkers in ontwerpteams en de impact assessment mensenrechten en algoritmen.
Nu handelen
De democratie is een kwetsbaar systeem. Dreiging ontstaat doordat intelligentie wordt geconcentreerd bij de eigenaars van technologie. Menselijke intelligentie is per definitie gedistribueerd, want gebonden aan menselijke lichamen. Voor artificiële intelligentie geldt deze ‘beperking’ niet: de grote intelligentie van systemen kan door de kleine groep worden beheerst die de controle heeft over AI. Big Tech of Big State.
De politieke gemeenschap moet digitaal wakker worden
Om het gedistribueerde karakter van de democratie te behouden – invloed van alle burgers – dienen we niet alleen te filosoferen over machtige AI en ook niet alle heil verwachten van regulering. We moeten nu op vele vlakken tegelijkertijd handelen. In de woorden van Maxim Februari (2023): de politieke gemeenschap moet digitaal wakker worden. We moeten een ‘reddingsoperatie’ starten om onze democratie – publieke keuze, deliberatie en legitiem bestuur – te verdedigen.
Albert Meijer is hoogleraar publieke innovatie aan de Universiteit Utrecht. Dit essay is gebaseerd op een lezing die Meijer hield bij Studium Generale Utrecht.
Foto: Tara Winstead via Pexels.com