Frictie-ethiek

Vorig jaar mei verscheen Frictie. Ethiek in tijden van dataïsme van Miriam Rasch. Het is de opvolger van Zwemmen in de oceaan. Berichten uit een postdigitale wereld uit 2017, haar eerste boek waarin ze nadacht over mens-zijn in een door data geregeerde wereld dat destijds ook al werd genomineerd voor de Socrates Wisselbeker. Ook Frictie geeft weer veel stof tot nadenken. Zoals de auteur zelf aan het begin zegt: ‘Dit boek laat zich moeilijk navertellen.’ En dat hoeft eigenlijk ook niet, het verdient namelijk gewoon lezing en het beloont wie die moeite neemt rijkelijk.

Tekst: Rogier van der Wal

Moeilijk doen
Het boek begint met twee citaten, waarvan een van Kierkegaard over het gevaar van gemak, namelijk dat we blijven zitten met het gemis van de moeilijkheid. Kierkegaard ziet het dus als zijn opdracht om overal moeilijkheden te maken, frictie op te zoeken. Voor dit boek een waarlijk goed gevonden citaat.

Dataficatie, het verzamelen en analyseren van grote hoeveelheden data over uiteenlopende personen en zaken, lijkt in onze 21e eeuw een onomkeerbaar proces. Alleen in je eigen huis ben je nog veilig, al is sinds de smartphone en het Internet of Things ook die veiligheid relatief geworden. Maar, zo schrijft Rasch: ‘Ergens in het proces van dataficatie ga ikzelf verloren en niemand lijkt zich daarom te bekommeren.’ Dat doet zijzelf wel, dus ze gaat in haar essay op zoek naar manieren om daar iets aan te doen. Het verlangen tot optimalisering, verzinnebeeld door ‘seamless design’, algoritmes en de homo deus van Harari, roept weerstand op. Als we niet oppassen gaat zo de ethiek verloren. Ethiek heeft juist oog voor imperfectie, wrijving, het menselijke tekort. Het werken met data gaat zelfs zover dat digitale data al ‘algoritmische necropower’ hebben, zoals bij veiligheidsdiensten die data rücksichtslos gebruiken om de vijand te elimineren. Hierbij moest ik ook denken aan Weapons of Math Destruction van Cathy O’Neil: zij beschrijft op meerdere terreinen een geleidelijk proces waarbij data het meer en meer van ons mensen overnemen, ook als het op beslissingen aankomt. Een waarschuwing is hier op z’n plaats.

Verzet
Tegelijk geldt ook dat de wereld groter is dan data alleen: er is ook nog zoiets als ‘het incommensurabele’, zoals bijvoorbeeld door Maxim Februari aan de orde gesteld in zijn indringende roman Klont uit 2017. Een frictieloze toekomst is een decor van bordkarton, want de rol van mensen laat zich helemaal niet wegreduceren: uiteindelijk zijn het toch mensen die de beslissingen nemen. Ook de regels bij algoritmen zijn ooit door mensen bedacht. Bovendien is een mens zelf geen algoritme maar een lichaam, een levend en voelend ding: niet voor niets verdwijnen in dystopische romans die in de verre toekomst spelen vaak de liefde en de verbeelding achter de horizon – ook dat is bedoeld als een waarschuwing.

Is er nog verzet mogelijk? Rasch citeert Herman Melvilles onvergetelijke klerk Bartleby met zijn beleefde maar consequente weigering om mee te doen: ‘I would rather prefer not to’. Het kan, nee zeggen als ‘collectivity of the unwilling’ en zo frictie veroorzaken, geen automaton vormen maar juist een de-automaton. Ook kunst kan een vorm van vervreemding en zo van verzet zijn: Rasch noemt de schilders Van Doesburg en Malevich als voorbeelden.

Voorbij de getallen
Onze wereld wordt gestructureerd naar digitaliteit, maar er is meer dan alleen nullen en enen. Dataficering garandeert geen 100% nauwkeurigheid – al suggereert het die wel – want er wordt onderweg voortdurend afgerond. Bovendien zijn we in de kern cultureel bepaald en is binariteit helemaal geen gegeven maar een conventie. In sprookjes gaat het bijvoorbeeld juist vaak om een drieslag: de derde broer, zus of prins pakt het anders aan dan de eerste twee en creëert zo de wending in het verhaal. Statistiek zorgt voor kwantificatie en classificatie, maar Rasch waarschuwt voor te veel reductionisme. Want wat willen de getallen? Altijd meer, meer, meer: meer likes, meer vrienden, meer sterren. Er is – met een zogenaamde Demetrificator – geprobeerd om de getallen buiten ons zicht te plaatsen, maar achter de schermen gaat het tellen gewoon door, met algoritmische karikaturen en functionalistische profilering als gevolgen. Het gemiddelde als uitkomst van al dat tellen en vergelijken geldt als normaal, wat daarvan afwijkt kan niet deugen en moet gedisciplineerd en in het gareel gebracht worden. Dat vraagt om een ‘nee’, om verzet, om een opening.

Surplus
Niet alles is kwantificeerbaar, er is een surplus dat aan categorisering ontsnapt, wat door John Cheney-Lippold in We are data ‘the else’ genoemd wordt. Er is een gat tussen data en wereld, net zoals er een afstand is tussen de taal en de werkelijkheid. Over dat laatste is in het voetspoor van Wittgenstein al veel gezegd, bij data en de wereld zijn we het nog aan het ontdekken. Het onzegbare werpt een grens op voor dataficatie: niet alles is vertaalbaar in data en niet alles hoeft helemaal begrijpelijk te zijn. Er is dus interpretatieruimte, een rest die zich niet laat opdelen, vangen, hooguit met omwegen laat benaderen via metaforen, die per definitie evocatief zijn en associatief. En dat geldt evenzo voor het wereldwijde web: ‘dat wat het wil uitbannen, huist in het hart van het dataïsme’.

Het pleidooi van Rasch om de menselijke maat in het vizier te houden is pijnlijk actueel. Dit zie je terug in de recente onderzoeken vanuit de Tweede Kamer naar de toeslagenaffaire bij de Belastingdienst. Ook bij andere uitvoeringsorganisaties, zoals de Sociale Verzekeringsbank en het UWV, zit hier de frictie: zodra het digitale systeem het overneemt dreigt die menselijke maat verloren te gaan. Dat is wat Miriam Rasch drijft: uiteindelijk is de mens en diens verhaal belangrijker dan data, hoe nuttig die ook kunnen zijn.

Dit is geen gemakkelijk boek. Er wordt onderweg veel aan de orde gesteld en overhoop gehaald, je moet bij de les blijven om de draad niet te verliezen. Het is wel origineel en stelt urgente zaken aan de orde. Meer ethisch besef rondom het gebruik van data is bittere noodzaak. Dit boek biedt daarvoor nieuwe inspiratie.

Frictie. Ethiek in tijden van dataïsme

Miriam Rasch

Uitgeverij: De Bezige Bij
Jaar: 2020

Dataïsme is het geloof dat alles te vertalen is in data. Data leggen de wereld vast en maken haar beheersbaar. Maar voor wie en met welk doel? Ethische dilemma’s rondom data worden vaak gereduceerd tot zaken als privacy en regulering, terwijl de onderliggende aannames van het dataïsme zelden ter discussie staan. Is de mens echt als algoritme te begrijpen?