Interview met Peter-Paul Verbeek: Vooruitgang door verbinding; technologie als hulpmiddel en uitdaging

Kunnen wij het razendsnelle tempo van de technologische vooruitgang nog wel bijhouden? En wat betekent het voor de ethiek als kunstmatige intelligentie steeds meer op de mens begint te lijken? Peter-Paul Verbeek (1970) is hoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente. Hij doet onderzoek naar de relatie tussen mens en technologie met als doel het bijdragen aan filosofische theorievorming, ethisch reflectie en technologische ontwerppraktijken. Daarnaast schreef hij verschillende boeken over dit onderwerp (o.a. Op de vleugels van Icarus: Over de moraal van technologie, 2014). We vroegen hem naar zijn visie op de rol van ethiek in de toekomst en de relatie tus- sen technologie en de mens.

Tekst: Mare Purkins

Wat wordt in de toekomst de belangrijkste uitdaging voor de ethiek?

De nieuwste technische ontwikkelingen zijn zo fundamenteel ingrijpend in ons als mens en de materiële wereld om ons heen dat ze de categorieën waarmee wij ethiek bedrijven uitdagen. Dit is in het verleden vaker gebeurd, maar tegenwoordig is de techniek steeds meer aan het versmelten met zowel de mens zelf als zijn omgeving. Voorheen was technologie iets wat je aan of uit kon zetten, of met een knuppel in elkaar kon slaan als het even niet meewerkte. Maar ontwikkelingen als implantaten in het brein of een slimme omgeving die bijhoudt of je boodschap- pen moet bestellen zijn wel heel fundamentele veranderingen waarbij de materiële wereld ook digitaal wordt. De menselijke natuur verandert voor een deel omdat we aan onszelf sleutelen met bijvoorbeeld biotechnologie.

Daarnaast verandert ook de menselijke conditie. De voorwaarden waaronder wij mens zijn in verhouding tot onze materiële wereld veranderen radicaal. Dit betekent dat we een maatschappij ingaan met nieuwe kunstmatig handelende wezens zoals bijvoorbeeld expertsystemen die dokters- of rechtsadvies geven, of robots in het klaslokaal. Ook al staan deze systemen nog in de kinderschoenen, toch roepen ze vragen op over wat actor- schap is en wie er bijvoorbeeld verantwoordelijk is als er iets misgaat. Van de andere kant is er ook de opkomst van the internet of things, waarbij de materiële wereld niet alleen maar een achtergrond is maar ons ook kan waarnemen en zich kan bemoeien met ons leven. Dan zijn er ook nog biotechnische middelen waarmee we in de mens, die- ren en planten kunnen ingrijpen waar- door onze categorieën omtrent het snappen van de niet menselijke werkelijkheid ook gaan schuiven. Dat is voor mij de grootste uitdaging.

Dus de belangrijkste uitdagingen zijn de technologische ontwikkelingen en hoe wij ons daar als mens toe verhouden?

De kernbegrippen waarmee we ethiek bedrijven zijn aan het veranderen: vrijheid, verantwoordelijkheid en actor- schap. Daardoor hebben bestaande ethische theorieën een update nodig. Wat we steeds meer zien is dat de technische ontwikkelingen invloed heb- ben op de waarden waarmee we ethiek bedrijven. Wat voor ons nu als privacy geldt, en wat we willen beschermen te- gen de informatietechnologie, heeft zich ontwikkeld in interactie met die informatietechnologie. De meetlat is dus niet onafhankelijk van wat je meet. Dit kennen we ook uit het verleden. In het begin van de anesthesie vonden mensen het immoreel om te verdoven tijdens een operatie: als God had ge- wild dat je geen pijn had als het lichaam werd geopend, dan had hij ons wel zo geschapen. Tegenwoordig zouden we het juist immoreel vinden om zonder verdoving te opereren. Menselijke waardigheid en wat we als (on)verdraaglijk lijden beschouwen hebben zich altijd ontwikkeld, maar dit gaat nu veel sneller. Dit betekent dat het uitgangspunt of anker van de ethiek lijkt losgeslagen.

U zegt dat technologische ontwikkelingen ervoor zorgen dat de ethiek verandert. Hoe zal deze toekomstige ethiek eruit gaan zien? Wat zal de grootste verandering worden?

Het is natuurlijk erg moeilijk om de toekomst te voorspellen maar ik denk dat wij met de opkomst van kunstmatige intelligentie onze notie van autonomie en andere kernbegrippen moeten gaan heroverwegen. Stephen Hawking is daar erg bezorgd over en waarschuwt dat wij op moeten passen omdat deze kunstmatige wezens ons van het podium af zullen du- wen als ze ons niet meer nodig hebben. De centrale uitdaging van de ethiek is om niet in dit soort valkuilen te trap- pen, niet te denken dat de robot de rol van verpleegkundige of leraar gaat over- nemen of dat we seks-robots krijgen en liefde niets meer zal betekenen. Volgens mij is dat de verkeerde benadering. Het valt nu eenmaal niet tegen te houden en we moeten ze leren zien als technologieën die fundamentele veranderingen teweeg zullen brengen in de zorg, het onderwijs en onze liefdesrelaties.

Wat valt er dan te zeggen over technologie die door heel veel mensen als fundamenteel slecht worden beschouwd? Bijvoorbeeld de kernbom, daarvan zou je toch best kunnen zeggen dat het bij voorbaat slecht is dat de- ze er ooit gekomen is?

Ik wil niet zeggen dat je geen oordeel kunt vellen over technologie. Ik denk dat er maar heel weinig mensen echt enthousiast zijn over de kernbom. Mijn zorg is alleen dat als je de ethische theorie zou beperken tot het stellen van de vraag ‘mag die kernbom er zijn of niet?’ je het engagement als ethicus bij voorbaat al opgegeven hebt. Die kernbom is er en de vraag die we ons vooral moeten stellen is hoe we er mee omgaan.  Op een fundamenteler niveau zou je kunnen zeggen dat wij een product zijn van de technologieën om ons heen. Wij zijn andere mensen dan die 2000 jaar terug leefden, met andere kernnoties in ons leven en een ander gevoel voor verantwoordelijkheid en solidariteit. De technologie vormt een soort netwerk van condities voor ons bestaan. Als je eenmaal ziet dat de mens niet los te denken is van de techniek levert dit een andere benadering op voor de ethiek. Dan wordt het zaak technologie ethisch te begeleiden in plaats van deze als buitenstaander te beoordelen.

Is dit begeleiden van de technologie dan ook de rol van de toekomstige ethicus?  

Ja, ik zou de nieuwe rol van de ethicus vooral zien als het kritisch begeleiden van technologische ontwikkelingen. Hij dient elke nieuwe techniek serieus te nemen en te proberen door te denken wat voor implicaties die heeft. De nieuwste technologieën kunnen enorm ontwrichten en disruptief zijn. We creëren niet zomaar nieuwe machines maar machines die een zelflerend vermogen krijgen, sociaal intelligent worden en op een gegeven moment een bepaalde sensitiviteit kunnen krijgen en daarmee kunnen reageren op anderen met iets wat je een soort van emotie zou kunnen noemen. Het zou mij dan ook niet verbazen als we een punt bereiken waar we kunnen zeggen dat die computer kan lijden. Dit zorgt ook voor een interessant ethisch vraagstuk: wordt die computer dan niet alleen een moral agent, maar ook een moral patient? Kunnen we medelijden met hem hebben? Het lijkt nu volkomen absurd en het is nog ver weg maar toch zorgen deze ontwikkelingen ervoor dat onze notie van actorschap verandert.

Daarnaast vragen deze systemen ook om een nieuwe notie van verantwoordelijkheid. Deze zelflerende systemen zijn niet meer te besturen, maar leren zichzelf en besturen zichzelf. Dit betekent dat we moeten leren begrijpen hoe we daar nog verantwoordelijkheid voor kunnen nemen. In een zekere zin zijn we er verantwoordelijk voor, want we hebben ze ontworpen, maar anderzijds doen ze dingen die buiten onze controle liggen. Op welke manier moeten we die notie van verantwoordelijkheid vormgeven?

Technologische vooruitgang wordt weleens neergezet als een bedreiging: is dit gerechtvaardigd? Denkt u dat het op een gegeven moment zo ver kan komen dat die ons zal gaan inhalen?

Ja!

U bent dus niet zo’n technologische optimist als u op het eerste gezicht lijkt?

Het ligt eraan wat je onder ‘ons inhalen’ verstaat. Als je daarmee het idee van ‘singulariteit’ bedoeld, dat de techniek de mens qua intelligentie exponentieel zal gaan inhalen, dan word ik daar niet zo zenuwachtig van. Er zijn talloze van deze singulariteiten. Waarom zou een set van superintelligente computers ons op een gegeven moment niet meer dulden?

Waar ik mij eerlijk gezegd echt zorgen om maak is om de technologie die ons milieu beïnvloedt. Het feit dat we zo fundamenteel aan het ingrijpen zijn in ons ecosysteem en dat we er nu eigenlijk hard op gewezen worden dat onze zelfoverschatting grenzen heeft. Alles draait maar om onszelf, om onze eigen autonomie en om te kunnen doen wat we willen. We hebben het niet-menselijke stuk van de wereld to- taal veronachtzaamd, in de veronderstelling dat we er los van stonden. Maar we blijken er midden in te zitten.

En we blijken ook kwetsbaar te zijn?

Ja precies, als ik me ergens zorgen over maak dan is het over de impact die we hebben op het milieu. Daarnaast maak ik me zorgen over dat we er misschien niet in slagen om op een goede manier te leven met de nieuwe technologieën. Als je ziet wat er gebeurt als gevolg van het bombardement van impulsen van de informatietechnologieën die bijvoorbeeld leidt tot concentratieproblemen: hier lijd ik zelf net zo hard onder als mijn kinderen. Hiermee leren omgaan is een uitdaging. De mens leert snel, en in die zin ben ik best optimistisch. Maar het gaat zo snel dat de leercurve ook behoorlijk snel zal moeten gaan om de ontwikkelingen bij te houden.

Wij moeten ons eigenlijk net zo snel kunnen ontwikkelen als de techniek?

Exact, en dat is wat ik denk dat de ethiek moet doen. We moeten ophouden met ons af te vragen of iets wel of niet mag, want voor je het antwoord hebt geformuleerd is er al iets nieuws. De ethiek moet de juiste woorden vin- den om mensen de invloed te helpen begrijpen en om kritisch te zijn op de techniek. Ook voor de politiek en de ontwerpers, zodat zij hun verantwoordelijk- heid kunnen nemen. Als je niet de goede woorden hebt om het te kunnen analyseren en anticiperen hobbelen we inderdaad achter de techniek aan.

Gelooft u dat hoe technisch bekwamer we worden, hoe meer in- zicht we krijgen in wat wel of niet moreel zou mogen?

Als je met morele vooruitgang bedoelt dat we steeds beter in staat zijn om morele keuzes te maken, dan geloof ik erin. Maar als je het definieert als het steeds ‘moreler’ worden van de samenleving zeker niet. Waar zou je die definitie van moraal vandaan moeten halen?

U zegt dat technologie invloed kan uitoefenen op onze moraal. Maar is de techniek ook niet heel efficiënt in het stroomlijnen van bepaalde processen zonder dat de moraal achter deze processen in beeld wordt gebracht? Neem bijvoorbeeld de Frankfurter Kuche (de moderne inbouwkeuken, red.). Hier werd een heel modern en efficiënt product gecreëerd maar de vrouw stond nog steeds achter het aanrecht. Kunnen we dit soort valkuilen vermijden?

Het expliciet maken van de impliciete moraal die meekomt met de technologie is eigenlijk mijn hoofddoel. Maar het vergt veel om op een morele manier naar technologie te kijken. Een ethische theorie gaat eigenlijk altijd over mensen, en mensen hebben intenties en autonomie, dingen niet. Hoe kun je dan bij wijze van spreken de moraal in de dingen denken? Met mijn boek heb ik de mensen best zenuwachtig gemaakt (What Things Do, 2005, red.). Ze dachten dat ik bedoelde dat dingen aan ethiek kunnen doen. Wat ik probeerde te laten zien is dat je de technologie niet moet zien als een object naast een subject. Technologieën zijn mediators.

Technologie kan ook een onbedoeld bevrijdend effect hebben. Het voorbeeld dat ik vaak aanhaal is van Annemarie Mol (Ziek is het woord niet, Mol & van Lies- hout, 1989, red.). Zij stelt dat de introductie van de anticonceptiepil de acceptatie van homoseksualiteit heeft vergroot en bespoedigd. Niemand had dit van tevoren bedacht, maar het gebeurde wel. Het is geen hard verband, maar ik denk dat het wel zeer aannemelijk is. De pil kon pas geaccepteerd raken in een maatschappij waar de seksuele moraal al aan het ver- schuiven was, maar deze heeft een enorme duw gekregen door voortplanting en seksualiteit van elkaar los te koppelen. Dat leverde een totaal nieuwe maatschap- pij op. Ik denk dat de mediatietheorie kan helpen om dit soort ontwikkelingen te zien, maar het is natuurlijk geen bol waar- mee je in de toekomst kunt kijken.

Als de maatschappij zo sterk ver- anderd is, spreken de traditionele ethische theorieën als consequentialisme en deontologie dan nog wel de taal van het heden?

Als we ethische vragen willen blijven stellen hebben we nieuwe tools nodig: nieuwe begrippen, concepten en theorieën. Dat is geen verzet tegen de klassieke ethiek, maar als de waarden waarop ethische theorieën gebouwd veranderlijk zijn dan is alles waar je de ethiek op gebouwd hebt vloeibaar. Een heel aardig model om dit te begrijpen is het volgende: je hebt waar- den, mens en maatschappij, welke alle drie door technologie worden uitgedaagd. De betekenis van menszijn is aan het veranderen en in de maatschap- pij ontstaan compleet andere machtsstructuren waardoor deze op een andere manier wordt ingericht. Deze waar- den zijn dynamisch, niet meer statisch. Je kunt er simpelweg niet meer ge- woon van uitgaan wat bijvoorbeeld privacy is als het zich ontwikkelt in de interactie met technologie. Deze drie hoekpunten waar eigen- lijk bijna elke ethische theorie op bouwt zijn aan het veranderen. Dat betekent dat je deze ook alle drie moet onderzoeken om te kunnen onderscheiden wat er gebeurt en hier vervolgens een nieuwe ethiek op te kunnen bouwen.

Maar zijn nieuwe ethische theorieën niet achterhaald in de toegepaste ethiek? Lijken we er niet steeds meer achter komen dat er niet één theorie is die al onze ethische vraagstukken kan oplossen?

Dat is inderdaad wel zo, en dat zie ik ook niet snel gebeuren. Die theorieën hebben natuurlijk wel een soort uitgangspunt. De consequentialistische en deontologische theorieën bouwen heel sterk op het autonome subject, iets dat steeds problematischer wordt. Wat ik wel sterk terug zie is een terugkeer naar de deugd-ethiek, naar het denken van- uit de vraag wat de goede manier van leven is. In de deugd-ethiek heb je geen autonoom maar een relationeel subject. De vraag van het goede leven is dan ook het midden vinden tussen al die invloeden, niet te veel en niet te weinig.

Maar zegt zo’n een theorie dan nog wel iets?

Dat is een hele goede vraag. Het is natuurlijk niet een theorie die je als een algoritme kunt afdraaien en jou daarmee vertelt of iets moreel juist of onjuist is. Maar er zijn manieren om het leven goed te leven en daar kunnen er best tien van naast elkaar bestaan. Hiermee wil ik helemaal niet zeggen dat we sommige dingen echt niet moeten doen, maar ik denk wel dat de kaders waar- mee je dat kunt beargumenteren zelf niet onveranderlijk zijn. Techniek bemiddelt onze moraal en onze moraal is daarmee niet alleen van ons. Dat is beste een grote stap om te zetten en daar moest ik zelf ook erg aan wennen!

Meer weten over Peter- Paul Verbeek, ethiek en technologie? Klik dan door naar het gesprek dat iFilosofie eerder met hem voerde over zijn boek Op de vleugels van Icarus.

1 reactie

1. Vooruitgang door verbinding; technologie als hulpmiddel en uitdaging | Peter-Paul Verbeek - 29 maart 2018, 22:38 Log in om te reageren

   […] http://www.ifilosofie.nl/interview-peter-paul-verbeek-vooruitgang-verbinding-technologie-als-hulpmid… […]