Online beoordelingen werken niet tegen discriminatie in platformeconomie

Etnische discriminatie is een probleem in de platformeconomie. Online beoordelingen worden als oplossing gezien, omdat minderheden daarmee een reputatie kunnen opbouwen. Maar zo simpel blijkt het niet te zijn.

Er zijn talrijke voorbeelden van discriminatie op online platforms. In de Verenigde Staten is het bijvoorbeeld moeilijker voor mensen met een typisch Afro-Amerikaanse naam om via Airbnb een logeeradres te vinden. [1] Ook dichter bij huis zijn er bewijzen voor discriminatie in de platformeconomie. Zo worden aangeboden ritten op een carpoolingplatform in Duitsland minder vaak bekeken als de chauffeur een Turkse, Arabische of Iraanse naam heeft. [2]

Hoewel niet precies bekend is in hoeverre discriminatie in de platformeconomie erger of juist minder erg is dan in de ‘reguliere’ economie, contrasteert het met het sociale en open imago dat platformen zich graag aanmeten. Bovendien claimen veel platformen een bijdrage te kunnen leveren aan een betere en schonere wereld door een efficiënter gebruik van goederen. Om deze pretentie waar te maken, is het cruciaal dat de platformeconomie toegankelijk is voor iedereen. Systematische uitsluiting in de vorm van discriminatie lijkt daarmee in tegenspraak.

Persoonlijke informatie werkt discriminatie in de hand

Ironisch genoeg lijkt discriminatie op dit soort platformen juist mogelijk te worden gemaakt door de nadruk op persoonlijke informatie van gebruikers. Wie via Peerby een boormachine verhuurt, ziet niet alleen informatie over de gewenste verhuurperiode, maar ook over de huurder – z’n foto, z’n voornaam. Deze persoonlijke informatie is bedoeld om vertrouwen tussen gebruikers van het platform te kweken. Vertrouwen is belangrijk in de platformeconomie: via Peerby een boormachine uitlenen aan een vreemde vraagt een bepaalde mate van vertrouwen.

Uit foto’s en namen kan echter eveneens informatie worden afgeleid op basis waarvan wordt gediscrimineerd, zoals etniciteit en geslacht. De meeste mensen die Joost heten zijn in Nederland geboren en hebben ook Nederlandse ouders, terwijl de meeste mensen die in Nederland wonen en Mehmet heten een Turkse migratieachtergrond hebben. Uit eerder onderzoek blijkt dat discriminatie op basis van dit soort informatie wijdverbreid is in de deeleconomie [1, 2].

Online beoordelingen als oplossing

Online beoordelingen (rating en reviews) worden genoemd als mogelijke oplossing voor online discriminatie. Een foto of een naam zegt weinig over iemands betrouwbaarheid, beoordelingen daarentegen wel. Mensen die in het verleden netjes de via Peerby geleende boormachine terugbrachten naar de eigenaar, zullen dat in de toekomst waarschijnlijk ook doen.

Beoordelingen lijken dus een betere voorspeller voor betrouwbaarheid dan demografische kenmerken. Het idee is dat mensen etniciteit en geslacht minder laten meewegen in hun beslissing als er ook beoordelingen zijn. Uit eerder onderzoek blijkt inderdaad dat dit het geval is [2, 3, 4]. Op basis hiervan is eerder geconcludeerd dat online beoordelingen een oplossing voor discriminatie zijn. Maar dat is niet het hele verhaal.

Beoordelingen kunnen ook averechts werken

Op basis van ons onderzoek stellen wij dat reputatiesystemen niet zonder meer een oplossing bieden voor het discriminatieprobleem, zelfs niet als beoordelingen de aandacht afleiden van demografische kenmerken. Beoordelingen kunnen alleen geschreven worden na het voltooien van een transactie. Maar sommige mensen hebben minder kans om deel te nemen aan een transactie en hebben dus ook minder kans om een beoordeling te krijgen. Mehmet die een huis wil huren maakt minder kans om überhaupt een beoordeling te krijgen.

Het is aannemelijk dat etniciteit mede bepaalt hoe makkelijk het is voor mensen om een eerste recensie te ontvangen. Die recensies zijn vervolgens belangrijk voor de mogelijkheden om in de toekomst deel te nemen aan transacties. We weten uit eerder onderzoek dat de kans dat een transactieverzoek geaccepteerd wordt veel groter is als de afzender van het verzoek ten minste één positieve beoordeling heeft.[5]

Aan de ene kant kan het reputatiesysteem er dus voor zorgen dat er minder aandacht is voor demografische kenmerken. Aan de andere kant kan het zo zijn dat de demografische kenmerken van de gebruiker juist bepalen hoeveel recensies hij of zij verzamelt.

Motordeelplatform: minder acceptatie bij migratieachtergrond

Wij onderzochten beide aspecten, onder andere in een onderzoek waarvoor we data gebruikten van een Nederlands motordeelplatform. Via dit platform kunnen motorbezitters hun motor uitlenen. Huurders kunnen de eigenaar van de motor waar zij interesse in hebben een verhuurverzoek sturen. De eigenaar kan dat verzoek accepteren of afwijzen.

We vonden dat verhuurders minder bereid zijn hun motor te verhuren als de huurder een migratieachtergrond heeft. Ongeveer veertig procent van de aanvragen verstuurd door huurders zonder migratieachtergrond werd geaccepteerd; van de aanvragen verstuurd door huurders met een migratieachtergrond werd slechts vijfentwintig procent geaccepteerd. We vonden geen bewijs dat beoordelingen helpen om ongelijkheid te verminderen. Huurders met een migratieachtergrond profiteerden niet meer van een positieve beoordeling dan huurders zonder migratieachtergrond, terwijl het voor hen wel moeilijker was om zulke beoordelingen te verzamelen.

Discriminatie van gisteren is reputatie van vandaag

Een effectief systeem van beoordelingen op platformen is dus niet voldoende om verschillen tussen gebruikers met verschillende kenmerken te verkleinen. De discriminatie van gisteren is namelijk de reputatie van vandaag. Platformen zouden daarom moeten overwegen om foto’s en namen van gebruikers een minder prominente plek te geven, zoals Airbnb sinds een aantal jaar doet.

Daarnaast zouden zij kunnen nadenken over manieren om nieuwe gebruikers aan een eerste review te helpen, vooral als die gebruikers tot een etnische minderheid behoren.

Judith Kas promoveerde onlangs op het proefschrift ‘Trust and reputation in the peer-to-peer platform economy’ aan de Universiteit Utrecht. Zij werkt als onderzoeker bij het Social Science Center in Berlijn (WZB). Rense Corten is universitair hoofddocent aan de Universiteit Utrecht. Arnout van de Rijt is hoogleraar aan het European University Institute in Florence, Italië en aan de Universiteit Utrecht.

Een langere versie van dit artikel verscheen onder de titel: 'The role of reputation systems in digital discrimination'  in de Socio-Economic Review van de Oxford University (UK).

 

Referenties

[1] Edelman, B., Luca, M., & Svirsky, D. (2017). Racial discrimination in the sharing economy: Evidence from a field experiment. American Economic Journal: Applied Economics, 9(2), 1-22.

[2] Tjaden, J. D., Schwemmer, C., & Khadjavi, M. (2018). Ride with me—Ethnic discrimination, social markets, and the sharing economy. European Sociological Review, 34(4), 418-432.

[3] Abrahao, B., Parigi, P., Gupta, A., & Cook, K. S. (2017). Reputation offsets trust judgments based on social biases among Airbnb users. Proceedings of the National Academy of Sciences, 114(37), 9848-9853.

[4] Ert, E., Fleischer, A., & Magen, N. (2016). Trust and reputation in the sharing economy: The role of personal photos in Airbnb. Tourism management, 55, 62-73.

[5] Frey, V., & Van De Rijt, A. (2016). Arbitrary inequality in reputation systems. Scientific reports, 6(1), 1-5.

 

Foto: Kris Krüg (Flickr Creative Commons)