De meeste mensen zeggen zich zorgen te maken over hun privacy, maar gedragen zich in de dagelijkse digitale praktijk op een manier die geen enkele rekening houdt met die zorgen. Deze privacy paradox uit zich bijvoorbeeld in het feit dat we voor sommige toepassingen helemaal geen geheimen hebben: zo liegen we niet tegen onze zoekmachine. We zijn daar intiemer mee dan met vrienden, familie en geliefden. We vertellen de zoekmachine altijd exact waar we aan denken en in zo helder mogelijke bewoordingen. Andere toepassingen verraden onze geheimen zonder dat we het weten of daar veel bij stilstaan. Onze smartphone zendt voortdurend uit waar we zijn, hoe lang we daar zijn en welke routes we nemen. Wie graag boeken op een Kindle van Amazon leest, realiseert zich waarschijnlijk niet dat Amazon niet alleen weet welk boek je leest, maar ook hoe lang je daar over doet, hoe snel je leest en of je het boek wel of niet uitleest. Achter deze toepassingen die het digitale leven zo aangenaam maken verbergt zich veel dataverzameling waarmee we steeds vaker ‘instemmen’.
Digitale stofzuiger haalt details binnen
We hebben ons met huid en haar aan het nu dominante businessmodel van het internet uitgeleverd: de gebruiker een gratis e-mail programma, webbrowser, app of een andere dienst of product, en de leverancier zet de digitale stofzuiger aan om de details van het privégedrag van de gebruiker en al zijn sociale contacten en netwerken binnen te halen. Maar ook voor overheden is de digitale wereld een verleiding. Er is meer informatie dan ooit en de mogelijkheden om de samenleving in kaart te brengen, nemen met de dag toe: niet alleen door de staat zelf, maar ook indirect door de rijkdom van de informatie die de grote internetbedrijven verzamelen. De burger wordt steeds transparanter voor de overheid terwijl het voor de burger steeds ingewikkelder wordt om te achterhalen welke overheidsinstantie nu welke informatie over hem of haar heeft. De overheid wordt met andere woorden steeds ondoorzichtiger.
Het geheim van het individu moet van de transparantie gered worden
Het is de vraag of het individu zelf in staat is om zijn geheimen in de informatiesamenleving veilig te stellen. Zeker de gezien de Goliaths die ze tegenover zich vinden: naast overheden zijn dat ook bedrijven. In ruil voor hun producten en diensten dragen we ons digitale leven aan bedrijven als Google en Apple over en leveren we ons uit aan de bescherming die ze bieden. Zij bepalen onze online veiligheid, de toegang tot onze informatie en de mate van privacy die ze ons daarbij toestaan. Ook sociaal kneden ze onze wereld: Facebook bepaalt wie we zijn, Amazon bepaalt wat we willen en Google wat we denken. Daarbij worden er voortdurend sociale grenzen verlegd: wat is privé, privaat, publiek en commercieel. En wat is nog geheim? Dat is van vitaal belang vanwege de relatie tussen vrijheid en het geheim. Vrijheid wordt mede bepaald door het kunnen en mogen hebben van geheimen. Wie daarvan overtuigd moet worden, moet 1984 van Orwell lezen, dat is effectiever dan welke wetenschappelijke verhandeling dan ook. En dat staat haaks op de wens van de overheden en bedrijven om iedereen zo goed mogelijk te leren kennen. Voor het individu geldt daarmee dat het geheim van de transparantie gered moet worden.
De moderne staat neigt tot steeds meer geheimhouding
De grens tussen wat de staat voor zichzelf houdt en wat met burgers gedeeld kan worden is van groot belang vanwege de twee extremen waartussen de geheimen van de staat zich begeven. Enerzijds zijn geheimen een machtsmiddel, anderzijds heeft de staat geheimhouding ook domweg nodig om zijn taken en plichten ten opzichte van de samenleving te kunnen vervullen, bijvoorbeeld in het domein van de nationale veiligheid.
De moderne staat heeft de neiging om steeds meer informatie geheim te houden en te classificeren. Deirdre Curtin spreekt in dit verband van een cultuur van geheimhouding die leidt tot een woekerende praktijk van overclassificatie. In Amerika is dit geen klein probleem – experts schatten dat vijftig à negentig procent van de geclassificeerde stukken van de overheid overgeclassificeerd is of zelfs helemaal niet geclassificeerd zou moeten zijn. In Nederland weten we het niet.
Vereist: kritische blik bij gegevensverzameling
Het is natuurlijk wel de bedoeling dat wat de staat als geheim aanmerkt, ook geheim blijft. En dat is in het digitale tijdperk niet eenvoudiger geworden. De technologische vooruitgang, het feit dat inlichtingendiensten steeds meer publiek-private samenwerkingen zijn (in plaats van roepingen voor het leven) en de veelheid aan bronnen waar inlichtingendiensten naar kijken, maakt de geheimhouding van die werkzaamheden kwetsbaar. Het verzamelen van informatie is niet zo’n punt meer, maar geheim houden dat je dat doet, wordt steeds moeilijker. Voor de staat geldt wellicht dat het geheim van de geheimhouding gered moet worden. En misschien is het wel de digitale wal van de informatiesamenleving die het schip van staat dwingt om bij te sturen. Anders dreigt de legitieme functie van het geheim ten onder te gaan aan een overmatig enthousiasme voor het verzamelen en geheimhouden van informatie. Dat vereist een kritische blik op wat de overheid echt als geheim wil zien en bewaren. Bij gegevensverzameling geldt ‘select before you collect’, bij geheimhouding zou ‘select before you protect’ het adagium moeten zijn.
Google’s algoritmen bepalen hoe ik naar de wereld kijk
Moderne informatietechnologie die het geheim van zowel het individu als de staat onder druk zet, heeft ook zo zijn eigen geheimen. Technologie is geen objectief instrument. Technologieën hebben een eigen dynamiek, maar interacteren ook met de sociale omgeving. Zo is het programmeren van algoritmen voor de analyse van grootschalige databestanden (bijvoorbeeld ten behoeve van onze zoekopdrachten in Google) een aaneenschakeling van keuzes: welke data wel of niet meegenomen worden, welke categorieën en profielen gemaakt worden en welke wegingsfactoren daaraan verbonden worden. Die keuzes worden gemaakt door mensen – opdrachtgevers en programmeurs - en in toenemende mate ook door algoritmen zelf. Algoritmen worden steeds meer zelflerend en naarmate de data zelf in omvang toenemen – wat in een big data wereld het geval is – worden de algoritmen steeds complexer. Google search werkt niet met één algoritme, maar met ongeveer tweehonderd algoritmen die samen bepalen wat er bovenaan in je zoekresultaten terechtkomt. Die algoritmen worden daarmee steeds belangrijker in ons dagelijkse leven: Google’s algoritmen bepalen mede hoe ik naar de wereld kijk, die van de inlichtingen- en veiligheidsdiensten bepalen of ik als een gevaar wordt gezien.
Keuzes en wegingen uit het zicht verdwijnen
De algoritmen zelf zijn echter vaak geheim. Bedrijven beschouwen ze als bedrijfsgeheimen en overheden classificeren ze omdat ze inzicht zouden geven in hun manier van werken. Beiden houden ze dus geheim omdat kennis delen de mogelijkheid opent voor ‘gaming the system’. Als je weet hoe er gezocht wordt, kun je dat patroon ontduiken – denk aan de crimineel of fraudeur die zo de digitale opsporing ontloopt. Of je kunt je er juist volledig aan aanpassen – denk aan de website die graag bovenaan de pagina met zoekresultaten verschijnt. Die geheimhouding maakt dat alle keuzes, wegingen en overwegingen die in de combinatie van algoritme en databanken besloten liggen, uit het zicht verdwijnen en niet bevraagd kunnen worden. Daar komt bij dat de technische experts zelf – in tegenstelling tot wat wij vaak denken - ook niet alles weten. Het aantal mensen bij Google dat alle ingezette algoritmen kan doorzien en doordenken is op zijn allerbest uitermate beperkt. Het zou me niet verbazen als het nul is. Daarmee is de zoekmachine weliswaar een goed bruikbaar systeem, maar wel een dat zijn eigen geheimen heeft.
Dennis Broeders is hoogleraar Technologie en Samenleving aan de Erasmus Universiteit Rotterdam en senior wetenschappelijk medewerker en projectcoördinator bij de WRR. Dit artikel is een sterk verkorte versie van zijn onlangs uitgesproken oratie Het geheim in de informatiesamenleving, Erasmus Universiteit Rotterdam, 2015.
Afbeeldingsbron:
