Het kunstmatige evenbeeld

Moeten we bang zijn voor onze kunstmatige dubbelganger? Zal kunstmatige intelligentie (ki) ons eindelijk uitroeien en onze plaats innemen? Het zijn geladen vragen die ons aanmoedigen om te doemdenken, en die angst voor technologische voortgang in ons aanwakkeren. Met deze angst overladen we regelmatig het debat over ki. Met Will AI Replace Us? zet Shelly Fan, PhD en wetenschapsjournalist, ons op een ander spoor in een rijk geïllustreerd en boeiend boek. Wat als we ki minder als vijand inbeelden en meer als vriend gaan behandelen?

Tekst: Gert Jan Roskammer

Will AI Replace Us? maakt deel uit van de Big Idea-serie, waarin per uitgave een belangrijk maatschappelijk onderwerp wordt uiteengezet, gegoten in een toegankelijke vorm: lees het boek in vijftien minuten en je begrijpt de hoofdlijnen van de discussie; lees de details en je krijgt het hele plaatje. Uitgeverij Thames & Hudson krijgt dit voor elkaar door middel van tekst in verschillende lettergrootten en indrukwekkende beelden. Daardoor is het boek voor iedereen geschikt: je kiest zelf hoeveel informatie je tot je wil nemen, en als je voor de kortere leessessie kiest, dan staat je in hetzelfde boek nog steeds veel informatie te wachten. Een nobel doel, dat het boek met verve behaalt.

Om een volledig beeld te geven van het ki-probleem deelt Fan het boek op in vier delen, waarin ze de geschiedenis van ki bespreekt, gevolgd door het kunnen en haperen van onze huidige technologie, om uiteindelijk de toekomst te bespreken. Een chronologische opzet is duidelijk een goede keuze voor dit boek. Zodra we de oorsprong van ki kennen, dan begrijpen we ook de oorsprong van onze vraagtekens rondom ki. En als we weten wat we nu al kunnen bereiken met ki en wat er nu misgaat, dan kunnen we dankzij onze reactie op deze misstappen zien hoe wij ons tot ki verhouden. Het blijkt: onze angst is niet ongegrond, al is deze angst wel misplaatst.

Angst voor de mens

Shelly Fan toont met haar boek al snel aan dat onze angsten over ki vooral gebaseerd zijn op angst voor de mens. De mens maakt de kunstmatige intelligentie, en daaraan voegen wij ongevraagd een deel van onszelf toe. Kunstmatige acties zijn reflecties van menselijk handelen, want wij hebben deze acties geprogrammeerd. Maar hoe gaan wij om met een machine die we scheppen naar ons evenbeeld?

In haar hoofdstuk over onze huidige inzet van ki maakt Fan duidelijk dat ki zich overal om ons heen bevindt. Onze smartphones zitten stampvol met ki, net als onze auto’s en onze ziekenhuisapparatuur. Ook diensten als Netflix en Spotify zijn met ki uitgerust, al zien wij enkel het resultaat ervan. Deze acties komen voort uit de instructie van de maker. En juist daar legt Fan de nadruk: wij maken onze ki om beperkte, maar streng gecontroleerde acties uit te voeren. Deze acties zijn altijd een weerspiegeling van de maker. Het is wat de maker wil bereiken dat ki zal uitvoeren.

‘Wij bepalen vandaag hoe de wereld van morgen eruit gaat zien’

Als we onze medemens vertrouwen hoeven we niet bang te zijn voor onze kunstmatige vriend. Helaas is niets minder waar. Fan confronteert ons al snel met de grimmige details van de menselijke relatie met ki. Juist omdat wij ki beïnvloeden met onze menselijke vooroordelen en inzetten als agenten op de digitale snelweg, en omdat wij hier veel te gemakkelijk gewend aan raken, kan ki veel problemen veroorzaken. Tot voor kort kon ki bijvoorbeeld nog geen onderscheid maken tussen mensen van Aziatische afkomst, terwijl dit probleem nog altijd geldt voor mensen met donkere huidskleuren. Kunstmatige intelligentie neemt onze vooroordelen over en zet daarmee institutioneel racisme voort.

Ook is allang duidelijk dat ki het ons moeilijk begint te maken in de politieke arena. De Verenigde Staten hebben onder invloed van ki een president gekozen. Volksrepubliek China geeft in de komende jaren nieuwe betekenis aan het woord politiestaat, met een systeem dat door middel van gezichtsherkenning – want ki kent nu wél de complexiteit in Aziatische gezichten – per persoon een sociale score bijhoudt. Als gevolg kampen de Chinezen van de toekomst met mogelijke uitsluiting uit de maatschappij en een totale sociale herindeling. Want de mens maakt ki.

Geprogrammeerde oorlogslust

Fans conclusie op de vraag in de titel is tegelijkertijd bemoedigend en verontrustend: ki zal ons, als diersoort, waarschijnlijk niet vervangen. Tenminste, wij zullen daarvoor eerst oorlogslust in onze kunstmatige vriend moeten programmeren. Kunstmatige intelligentie zal ons enkel vervangen als wij dat toelaten. Als we ruimdenkend de toekomst ingaan en internationale samenwerking aanmoedigen en bewerkstelligen, dan hoeven wij ons niet druk te maken over opstandige schijnmensen die ons rauw lusten en algoritmen die een gevaar vormen voor onze samenlevingen. Daarmee zet Fan haar zinnen op een perfecte toekomst waarin ethiek de hoofdrol speelt in de verdere ontwikkeling van ki.

Desondanks koestert Fan geen illusies; haar antwoord houdt alle opties open. In haar boek zien we meerdere voorbeelden van het misbruik dat we in het heden al maken van ki in onze bedrijfsvoering en op overheidsniveau. Dat de mens ki maakt is daarmee allesbehalve een geruststelling. Wij bepalen vandaag hoe de wereld van morgen eruit gaat zien, maar niet iedereen heeft de invloed om de wil van één programmeur of één wereldleider te veranderen.

Fan slaagt echter wel in haar opzet om een alternatief te bieden voor het doemdenken dat het debat over ki domineert. Zonder achterdocht te zaaien gelooft Fan dat menselijke samenwerking een catastrofe kan voorkomen. Noem het naïef, noem het rooskleurig. Hoe dan ook geeft Fan een benodigde positieve bijdrage aan het debat over ki en een mooi overzicht van de belangrijkste aspecten van ki in het heden en in onze toekomst.

Shelly Fan, Will AI Replace Us? Londen: Thames & Hudson, 2019.