Waarom computers nooit zullen denken

Markus Gabriel is een filosoof die zijn ideeën met veel bravoure en aantrekkingskracht uiteen weet te zetten, onder meer door verwijzingen naar populaire films, tv-series en gedichten. Hij krijgt dan ook niet voor niks veel aandacht in de media. In zijn nieuwe boek De zin van denken valt hij het idee aan dat computers kunnen denken. Dit idee, dat vooral in Silicon Valley en Hollywood populair is, stelt dat onze geest niets anders is dan een informatie-verwerkend systeem. Wij zouden onze geest bijvoorbeeld prima kunnen uploaden in een computer. Gabriel stelt daartegenover dat ons intellect een soort zintuig is dat gedachten waarneemt: een noöscoop. Computers zouden nooit een dergelijk zintuig kunnen ontwikkelen.

Tekst: Arthur Veenstra

Volgens Gabriel vormt kunstmatige intelligentie (KI) een bedreiging voor ons mensbeeld. Voor veel mensen is KI een wat abstract idee waar we geen concrete associaties bij hebben. De meesten van ons zijn wel bekend met boeken, films of series waarin de premisse wordt gehanteerd dat mensen niet wezenlijk verschillen van computers. Gabriel wijst onder meer op de recente sciencefictionserie Westworld. In deze serie blijken gaandeweg sommige mensen – zonder het zelf te weten – robots te zijn. Andere – echte, biologische – mensen hebben zich ingeladen op een computersysteem om zodoende het eeuwige ‘leven’ te bereiken. De technologische vooruitgang confronteert ons met de vraag of we niets meer zijn dan informatie-verwerkende systemen.

Grote Krenkingen

Gabriel legt goed uit waarom dergelijke premissen ons een ongemakkelijk gevoel geven. Hij verwijst hiervoor naar de filosoof Floridi die een aantal ‘grote krenkingen’ bespreekt die de mensheid heeft ondergaan. Darwins evolutietheorie is een goed voorbeeld van een dergelijke grote krenking: die theorie stelt dat wij dieren zijn die afstammen van apen en uiteindelijk eencellige wezens. Dit was al een behoorlijke klap voor het westerse mensbeeld. Volgens Floridi en Gabriel confronteren de voortschrijdende cognitie-, neuro- en computerwetenschappen ons nu met een nóg pijnlijkere krenking. Gabriel wijst erop dat Aristoteles de mens al schaarde onder de dieren. Maar Aristoteles definieerde de mens ten minste nog als een dier dat als enige beschikt over de rede. Aristoteles’ definitie heeft ruim twee millennia standgehouden, maar nu wordt dus ook dat idee ondergraven: als computers kunnen denken, wat is er dan nog bijzonder aan de mens?

Denken als zintuig

Wat is Gabriels filosofie van het denken? Kortweg beschouwt Gabriel ons intellect als een soort zintuig dat gedachten waarneemt. Het intellect produceert dus niet actief gedachten, maar neemt passief de objectief bestaande gedachten waar. Aristoteles beschreef een enigszins vergelijkbare filosofie van het denken in zijn werk De anima / Over de ziel. Aristoteles’ filosofie kan het beste worden begrepen met een voorbeeld. Stel dat je een rode roos waarneemt in de tuin. Aristoteles zou zeggen dat de rode kleur en de bloemsoort roos, vormen of ideeën zijn. Omdat deze vormen zich manifesteren in de materie is die materie een rode roos. Deze doctrine van het hyloformisme – alles is een composiet van materie en vorm – stelt Aristoteles in staat om een intrigerende filosofie te ontwikkelen van waarneming en kennis. Stel je voor dat je een rode roos waarneemt. Aristoteles zou zeggen dat, op het moment van waarneming, de vormen ‘rood’ en ‘roos’ een afdruk maken in onze geest. Je zou kunnen zeggen dat volgens Aristoteles onze geest letterlijk de vorm aanneemt van een rode roos. Aristoteles’ filosofie is daarom een vorm van direct realisme: we nemen de eigenschappen van de wereld direct waar. Ter vergelijking: het moderne wetenschappelijke wereldbeeld is daarentegen gebaseerd op indirect realisme. Gabriel illustreert dit met het voorbeeld van kleuren. Volgens het wetenschappelijk wereldbeeld is de rode sensatie die wij waarnemen een mentale representatie van een bepaalde golflengte van submicroscopische deeltjes die zelf kleurloos is. De wereld zelf is dus grijs. Onze waarneming is – volgens de wetenschap – een indirecte weergave van de wereld.

Hoe maakt Aristoteles de stap van waarneming naar denken? Als we meerdere rozen achter elkaar waarnemen dan zal ons verstand op een gegeven moment het intellectuele idee ‘roos’ onttrekken uit die waarnemingen. Het idee ‘roos’ heeft ook een soort objectief bestaan; het zit in de materiële roos en in iedere waarneming van de roos. Min of meer in lijn met Aristoteles, stelt Gabriel dat wij via ons zintuig, het intellect, in contact staan met een soort objectief bestaande informatiestructuur. Dit noemt Gabriel zijn nieuw realisme. Het ‘nieuwe’ zit onder meer in zijn toevoeging van wat hij ‘zinvelden’ noemt. Ook al is het idee van zinvelden een interessante toevoeging van Gabriel, toch zal ik dat niet in meer detail bespreken, aangezien het weinig toevoegt aan de twee hoofdstellingen van zijn boek: dat ons intellect een soort zintuig is, en dat computers nooit kunnen denken.

Ockhams scheermes

Het denken als een soort zintuiglijk orgaan is dus niet heel erg nieuw. Deze aristoteliaanse filosofie is intens bestudeerd door de middeleeuwse filosofen, de zogenaamde scholastici. Aristoteles’ positie over de ziel en het denken werd in de middeleeuwse filosofie geïntroduceerd in wat nu soms de kleine renaissance wordt genoemd. Vanaf ongeveer de 10de eeuw werd het Spaanse schiereiland geleidelijk heroverd op Moorse bezetting. Tijdens deze reconquista kwamen verschillende klassieke Griekse filosofische teksten in handen van de kruisvaarders. Deze teksten waren in Europa door de eeuwen heen verloren geraakt, maar werden in de Arabische scholen zorgvuldig bewaard in vorm van Arabische, Syrische en zelfs Hebreeuwse kopieën. Circa 1150 kwamen de kruisvaarders zodoende in het bezit van een Arabisch boekwerk van de filosoof Avicenna. Dit encyclopedische werk bevatte onder meer een kopie van Aristoteles’ De anima / Over de ziel. Plotseling was het denkwerk van Aristoteles over de ziel weer beschikbaar binnen de Latijnse scholastieke omgeving in Europa. Het raamwerk van Aristoteles bleek bovendien bijzonder geschikt om te combineren met een Christelijke theologie en het werd dan ook al snel het standaard filosofische denkraam van de geest.

Maar zo snel als dit denkraam werd omarmd, zo snel staken allerlei fundamentele problemen de kop op. Ten eerste lijkt het intellect in staat om actief nieuwe ideeën te produceren, wat natuurlijk botst met de conceptie van een passief orgaan dat ideeën alleen maar waarneemt. We kunnen bijvoorbeeld nieuwe ideeën bedenken, en die dan ook nog omzetten in bijvoorbeeld nieuwe ontwerpen voor gebouwen. We kunnen planten kruisen en zodoende nieuwe soorten genereren. En dat is nog afgezien van begrippen als ‘democratie’, ‘kunst’ etc. Het arsenaal aan objectief bestaande ideeën moet wel haast oneindig groot zijn. Het moet niet alleen alle huidige ideeën bevatten, maar alle ideeën die de mens ooit zal denken. En dat was nog maar het begin van de problemen. Binnen een tijdsbestek van twee eeuwen was het elegante denkraam van Aristoteles verworden tot een ingewikkeld systeem bestaande uit ontelbare entiteiten. Aan het begin van de 14de eeuw overzag William van Ockham dit wankele bouwwerk, en zette er resoluut een streep doorheen. Die ingreep staat nu bekend als ‘Ockhams scheermes’.

Gezien het moeras waarin de scholastici verstrikt raakten, zou je verwachten dat Gabriel hele goede argumenten heeft om het aristoteleaanse/scholastieke denksysteem van stal te halen. Daar schiet De zin van het denken echter schromelijk tekort. Hij poneert het systeem ietwat triomfantelijk, maar rept met geen woord over de problematische kanten van dat voorstel. Op zich spreekt Gabriels voorstel van het intellect als zintuig enorm tot de verbeelding, maar om echt serieus genomen te worden, is meer nodig dan een grove schets die schielijk voorbijgaat aan alle valkuilen. Op naar die andere hoofdstelling van zijn boek. Op welke wijze beargumenteert Gabriel dat een computer niet kan denken?

Computers vs. Intentionaliteit

Gabriels argumentatieve strategie is het beste te omschrijven als een schot hagel. Hij combineert argumenten van verschillende filosofen en uit zeer uiteenlopende gebieden van de filosofie. Dit biedt enerzijds een rijkdom aan argumenten, maar anderzijds was het misschien overtuigender geweest een paar sterke argumenten zorgvuldig uiteen te zetten.

Het wellicht meest steekhoudende argument dat Gabriel inzet tegen denkende computers is afkomstig van de Amerikaanse filosoof Searle. Searle argumenteerde dat computers nooit het karakteristieke kenmerk kunnen hebben van bewustzijn: intentionaliteit. Intentionaliteit is de eigenschap dat bewustzijn altijd bewustzijn van iets is. Bewustzijn heeft dus een relationeel karakter. Ik zie de roos, ik voel hem, ik denk aan de roos. Altijd is er een relatie tussen mijn bewustzijn en iets.

Maar hoe zit dat dan met computers die tegenwoordig met gemak gezichten kunnen ‘herkennen’? Is er dan niet een relatie tussen de computer en dat gezicht? Juist hier maakt Searle een cruciaal punt. Zijn argument komt kort gezegd erop neer dat wij mensen intentionaliteit projecteren op de computer. De computer zelf gedraagt zich weliswaar alsof hij objecten herkent, maar in werkelijkheid voert de computer blind zijn mechanische/reactieve processen uit. Hoe ingewikkeld de programma’s ook zijn, uiteindelijk bestaat ieder programma simpelweg uit enen en nullen die de computer blind verwerkt. Sterker nog, de computer weet niet eens dat het enen en nullen aan het verwerken is. Voor de computer zijn er alleen maar impulsen waar het mechanisch/blind op reageert. Wij mensen, zeggen dat de computer ‘enen en nullen’ verwerkt, wij zeggen dat de computer een foto ‘registreert’ en een gezicht ‘herkent’. Het is bijzonder handig voor ons om te denken in termen van ‘software’ en ‘registeren’. Het zou immers ongelooflijk ingewikkeld zijn als we moeten praten in termen van de miljoenen minuscule schakelaars, en miljarden elektronen, die zich een wegbanen door de chips van de computer. Maar we moeten onze manier van praten niet verwarren met wat de computer in werkelijkheid doet. Wij moeten onze gedachten niet projecteren op de computer. Dit is wat Searle ‘verleende intentionaliteit’ noemt. Natuurlijk heeft het argument van Searle geleid tot enorme discussies, maar het zet de materialistische filosofen in ieder geval voor het blok. Het is niet meer voldoende om te laten zien dat computers net zo kunnen functioneren als mensen. Als je wilt beargumenteren dat computers kunnen denken, dan moet je ook laten zien hoe kan dat de blinde processen van een computer gepaard gaat met bewustzijn. Gabriel maakt middels Searle’s argument duidelijk dat kunstmatige intelligentie in feite een misnomer is: om misverstanden te voorkomen zou kunstmatige intelligentie beter kunnen worden omgedoopt naar ‘alsof-intelligentie’. Hoe het ook zij, volgens Gabriel is en blijft de mens een uniek dier; als enige begaafd met een zesde zintuig dat gedachten kan waarnemen.

Conclusie

De zin van het denken biedt een rijke doorsnee van een uitgestrekt domein van de filosofie. Gabriel’s hoofdstelling, dat het menselijke intellect een soort zintuig is, spreekt tot de verbeelding en zijn tweede hoofdstelling dat computers nooit kunnen denken snijdt een saillant vraagstuk aan. Daarbij leest het boek lekker weg. Door alle interessante voorbeelden uit de populaire cultuur, de literatuur en de geschiedenis van de filosofie, is het boek geen zware kost. Helaas komt het boek tegelijkertijd onrustig en rommelig over. De indruk ontstaat dat de redacteur van het boek te veel onder de indruk was van Gabriels status als sterfilosoof en daarom de daadkracht miste om stevig in te grijpen. De lezer zal daardoor regelmatig het spoor bijster zijn en overweldigd raken door weer het volgende inzicht of argument. Daarbij laat Gabriel de lezer ook nog aan zijn lot over om zelf een coherente puzzel te leggen uit die filosofische overvloed. Wellicht ligt daarin ook de grootste waarde van De zin van het denken; het daagt de lezer uit en geeft hem/haar de ammunitie om zelf te gaan nadenken over ons mysterieuze en ongrijpbare vermogen om na te denken.

Markus Gabriel, De zin van denken. Vertaald door Mark Wildschut. Amsterdam: Boom, 2019.