RECENSIE Harari en de tovenaarsleerling

Kunnen we de tovenaarsleerling nog in bedwang houden? Dat is de kernvraag die het lezen van Yuval Noah Harari's Homo Deus (2015) oproept. Eeuwenlang hebben mensen technologie en wetenschap naar believen ontwikkeld, en al naar hun machtspositie gebruikt en misbruikt, maar nu dreigen hun toverkunsten zich tegen hen te keren.

Homo Sapiens heeft het ver gebracht. Mensen hebben honger, ziekten, oorlogen en geweld leren bestrijden, met steeds meer kennis en steeds nieuwe middelen. Door taal en schrift zijn ze erin geslaagd om de beperkte vermogens van de hersenen van individuen te overstijgen door ook verbeelde en papieren werkelijkheden te creëren, naast de werkelijkheid van bomen en rotsen.

Ze zijn steeds beter geworden in het verwerken van gegevens – qua hoeveelheid, verscheidenheid, het leggen van verbindingen, en de vrijheid van beweging van deze gegevens. Ze zijn in staat om hele samenlevingen met behulp van 'algoritmen' te organiseren, een kernbegrip in Harari's verhaal. Hij bedoelt er een reeks methodische stappen mee, formules die gebruikt kunnen worden om berekeningen te maken, problemen op te lossen, beslissingen te nemen.

In het tijdperk waarin wij leven, figureren mensen in wereldomspannende netwerken en beschikken ze over data-verwerkende algoritmen die vele malen intelligenter zijn dan zijzelf. Maar ze blijven zich steeds hogere doelen stellen nog, meer geluk en een eeuwig leven. De meest recente fase in deze opmars laat zich het moeilijkst overzien en daarover gaat Homo Deus.

Harari is een fantastische verhalenverteller

Harari is iemand van de wereldschaal en de lange termijn. Hij put met evenveel gemak uit theorieën over de evolutie en AI als uit psychologie, biologie of geschiedenis. Hij is een fantastische verhalenverteller, die ingewikkelde verbanden begrijpelijk maakt, met ruimte voor detail en onverwachte voorbeelden. Dat maakt het boek een plezier om te lezen en moeilijk om het in kort bestek recht te doen. Eerder schreef Harari Homo Sapiens. A Brief History of Humankind (2011). In Homo Deus. A Brief History of Tomorrow gebruikt hij een historisch perspectief, niet om lessen te trekken of voorspellingen te doen, maar om mensen in hun denken van het verleden te bevrijden. Om hun verbeeldingskracht te stimuleren bij het formuleren van een agenda voor de toekomst.

De ontwikkeling van de wetenschap: macht en onttovering

Eeuwenlang vormden religies het belangrijkste oriëntatiemiddel van de mensheid, maar de op0komst van de moderne wetenschap heeft dat veranderd. Harari ziet die twee oriëntatiemiddelen niet als gezworen vijanden, evenmin als afzonderlijke domeinen. Beide hebben elkaar nodig.

De wereld werd voor mensen echter pas kenbaar, toen ze het geloof in een groot kosmisch plan opgaven en het universum als een blind en doelloos proces gingen zien. Zelf gingen ze de plaats van goden innemen. Wetenschap gaf hun macht, maar de prijs die ze daarvoor betaalden was een onttovering van de wereld.

Humanisme: het nieuwe geloof

Dat de samenleving desondanks niet is ingestort, schrijft Harari toe aan het humanisme dat als een nieuw geloof de functie van morele leidraad ging vervullen. Individuen moeten daarin zelf betekenis geven aan hun leven. Hun individuele ervaringen werden de bron van alle betekenis, geloof in hun innerlijke stem werd de maat der dingen, en hun vrije wil, gevoelens en verlangens werden de hoogste autoriteit.

Op de vrije markt is dat zichtbaar in de centrale plaats die klanten krijgen toebedeeld, in het democratische kiesstelsel in de plaats van de kiezers. Individuele gevoelens worden de bron van schoonheid, onderwijs moet kinderen zelfstandig leren denken. Voor ethische kwesties moeten mensen nu terugvallen op een sensitieve interpretatie van hun eigen ervaringen. Hun gevoeligheid daarvoor vormt zich in wisselwerking met individuele ervaringen - sensaties, emoties en gedachten.

Dataïsme: de kanteling van machtsverhoudingen

Maar in een data-georiënteerde samenleving zal het humanisme volgens Harari die oriënterende rol niet lang meer kunnen vervullen. Die is eerder weggelegd voor het 'dataïsme', met intelligente algoritmen die zijn losgekoppeld van bewustzijn. Deze datastromen ontwikkelen een eigen dynamiek, die bestaande machtsverhoudingen kantelt. De controle daarover wordt verkleind door het wereldwijde web, dat zonder democratische besluitvorming is ontworpen. Het internet is een vrije, wetteloze zone die zich aan overheidscontrole onttrekt en die de soevereiniteit van staten ondermijnt. De veelvoudige complexiteit waarover Harari schrijft levert stuurloze dystopieën op.

De computerrevolutie is niet langer een zuiver mechanische aangelegenheid, die zich in de buitenwereld voltrekt. Het samengaan van levenswetenschappen en technologie maakt het mogelijk om aan de biologie van mensen te sleutelen, ze steeds verder en heel geleidelijk met steeds betere motorische en zintuiglijke middelen te 'upgraden', met een intelligentie die veel groter is dan die ze nu bezitten.

Maar het risico bestaat dat deze medische doorbraken niet zoals vroeger bij de massa terecht zullen komen. De tijd van de grote legers en de grote fabrieken zou wel eens voorbij kunnen zijn, en dan wordt het de vraag of de overheid en de machthebbers het de moeite waard zullen vinden om nog in volksgezondheid te investeren.

Supermensen en nuttelozen

De 20e-eeuwse geneeskunde had de genezing van zieken tot doel en had een egalitaire inslag, de 21e-eeuwse 'geneeskunde' is ook gericht op het upgraden van een select gezelschap gezonde mensen. Zo kan zich een kleine onmisbare elite van creatieve supermensen vormen, terwijl de rest van de mensheid tot een inferieure, nutteloze kaste gaat behoren. Die loopt dan het gevaar dat de elite hen onderwerpt en uitbuit, zoals deze door de eeuwen heen met dieren heeft gedaan, en met mensen die ze als lagere wezens beschouwde.

Dat ondermijnt de liberale logica dat alle menselijke wezens evenveel waard zijn, ook al zijn ze in economisch opzicht ongelijk. Het geloof in de waarde van individuen loopt daarmee gevaar, net als het liberalisme, de democratie, de vrije markt, de mensenrechten.

Andere scenario's

Het is mogelijk dat de mensheid het tijdperk van de data-religie ingaat, met een angstaanjagende sociale ongelijkheid. Maar het is de kunst om ook over andere scenario’s na te denken. Homo Deus kan daarbij helpen, maar het laat ook veel vragen open. Hoe kunnen mensen 'hun bewustzijn' en verbeeldingskracht gebruiken om de toekomst vorm te geven? Zulke vragen gaan niet alleen over technologie en algoritmen, maar vooral over het gebruik daarvan en de sociale en psychische verhoudingen waarbinnen dat gebeurt.

Het gaat dan niet alleen over cijfers, maar ook over betekenisgeving. Harari laat zien hoe urgent dat is, ook al is het minder spectaculair en op korte termijn waarschijnlijk minder lonend dan te investeren in nieuwe technologische mogelijkheden.

Rineke van Daalen is socioloog aan de Universiteit van Amsterdam en columnist van www.socialevraagstukken.nl.