[Column] Uniek of paniek

[Kappetijn]

Op 12 oktober was er in Pakhuis de Zwijger in Amsterdam de feestelijke uitreiking van de prijs voor de beste inzending van de essaywedstrijd “Wat zal de belangrijkste wetenschappelijke doorbraak in de 21ste eeuw zijn?”. Deze wedstrijd werd georganiseerd door de Koninklijke Hollandsche Maatschappij der Wetenschappen (KHMW) in samenwerking met de NRC. De winnaar was Gijsbert Werner met zijn essay ‘Het einde van de menselijke uniciteit.’


Werner is een evolutiebioloog die in Oxford onderzoek verricht naar de evolutie van samenwerking. In zijn boeiende essay beschrijft hij het proces waarin het illustere duo wetenschap en technologie al eeuwenlang bezig is om de eigendunk van mensen af te breken. Nee, de aarde is niet uniek en het middelpunt van het heelal maar een kruimeltje in een oneindig universum. Nee, de mens is niet uniek en vijfduizend jaar geleden geschapen maar gewoon een product van de biologische evolutie. Nee, de mens is niet uniek met zijn zelfbewustzijn, maar slechts gradueel bewuster van zichzelf dan andere dieren. Galileo Galilei, Charles Darwin en Frans van der Waal hebben onomstotelijk laten zien dat de menselijke uniciteit steeds meer in de gevarenzone verzeild raakt. En het houdt niet op. Nu is de aanval vol ingezet op onze geestelijke kwaliteiten, ons denkvermogen. De opmars van kunstmatige intelligentie (KI) houdt de gemoederen flink bezig. Want als straks computers als mensen kunnen denken en robots als mensen kunnen handelen, wat is dan nog het verschil tussen het biologische en het synthetische wezen?


Mensen kunnen nog wel eens paniekerig doen over de afkalvende uniciteit. De vraag is of dat wel terecht is. Wij zijn langzamerhand wel gewend aan het feit dat de mensheid in staat is wetenschap en technologie in te zetten voor haar strijd tegen de vijandige omgeving van wilde dieren, extreme natuurverschijnselen, kwaadwillende mensen, honger, kou en ziekten. Tijdens de drie golven van Alvin Toffler – agrarische maatschappij, industriële maatschappij en informatiemaatschappij – zijn landbouw & veeteelt, industrie en informatieprocessen doordrenkt met technologie. Deze buitenlichamelijke bewerktuiging heeft ons tot nu toe geen windeieren gelegd. Dat werktuigen sterker, sneller en duurzamer zijn dan ons beperkte lichaam, heeft ons veel welvaart en welzijn opgeleverd. Boten, treinen, auto’s, vliegtuigen, raketten, satellieten, robots en e-bikes staan ons ten dienste. Waarom dan die angst voor de volgende stap? Waarom de angst dat werktuigen in toenemende mate sterker, sneller en duurzamer zullen zijn dan onze beperkte geest? Computers kunnen nu al beter informatie ontvangen, verwerken, opslaan en versturen dan wij dat kunnen. En de opmars van deze informatietechnologische breinversterkende en geestverruimende werktuigen is nog maar net begonnen.


Reden voor paniek? Onze huidige maatschappij kan niet meer bestaan zonder informatie- en communicatietechnologie. Met de bijbehorende toenemende afhankelijkheid en kwetsbaarheid heeft ICT veel nare trekjes. Internet is niet alleen een zegen maar ook een vloek door onder andere privacy verlies en cybercrime. Maar dat is nog geen reden te besluiten internet en ICT uit ons leven te verbannen. Technologie is een onlosmakelijk onderdeel van onze menselijke evolutie. Technologische en biologische evolutie gaan hand in hand. Deze ontwikkeling is misschien hier en daar een beetje bij te sturen, maar er valt niet veel te kiezen. Dat geldt ook voor kennistechnologie. Zoals iedere technologie, zal ook KI voortdurend zorgen voor kansen en bedreigingen. Niets nieuws onder de zon. De auto is vaak een dodelijke machine. Een gesynthetiseerd virus in verkeerde handen kan doden. Een op KI gebaseerde foute beslissing kan dodelijk zijn. In al die gevallen is niet het werktuig schuldig aan doodslag, maar de mensen die de werktuigen ontwikkelen, besturen en onderhouden.


Volgens mij komt de angst voor KI voort uit overschatting van de macht van de technologie en onderschatting van de macht van de mens. Tot op heden heeft de mens laten zien dat zij over voldoende creativiteit, flexibiliteit en stabiliteit beschikt om de technologie naar zijn hand te zetten. Uiteraard gaat dat niet altijd zonder slag of stoot. Onderweg gaat er wel eens iets gruwelijk mis. Ontploffende atoombommen, botsende auto’s, neerstortende vliegtuigen, falende PC’s en uitvallende elektriciteits- en computernetwerken veroorzaken veel menselijk leed en materiële schade. Al dit ongemak is nog geen reden om technologie af te zweren. Het saldo van de voordelige en nadelige effecten is ontegenzeggelijk positief.


Waarom zal dat ook niet met KI het geval zijn? Ik ben niet zo bang voor de dreiging van het toenemende kunstmatige bewustzijn en de afnemende autonomie. Werner vraagt zich in zijn essay af of de door KI veroorzaakte afname van onze uniciteit zal leiden “tot het onherroepelijk verlies van ons zelfbeeld als zelfstandige, autonome individuen”. Misschien is dat zo. Het lastige is dat veel van deze redeneringen draaien om één springend punt, namelijk het bewustzijn. Zullen er straks werktuigen zijn die over een kunstmatig bewustzijn beschikken dat vergelijkbaar is met wat mensen als zodanig kennen. Kennen? Helaas weten wij bar weinig over wat bewustzijn is en hoe het werkt. Enkele onderzoekers op het terrein van de neurowetenschappen schromen niet te beweren dat bewustzijn en daarmee vrije wil niet bestaan, maar ‘slechts’ een illusie zijn, een simpel gevolg van de complexiteit van onze hersenen.


In het hersenvocht van onze hersenpan klotsen tientallen miljarden zenuwcellen en tien keer zo veel gliacellen die zorgen voor 1.000 miljard synaptische verbindingen. Hoewel de neurowetenschappen mede dankzij scantechnieken en biochemie grote stappen zetten, zal het nog wel even duren voordat wij echt gaan begrijpen hoe onze hersenen werken en dus hoe gedachten en bewustzijn tot stand komen. Daarom denk ik dat het bouwen van synthetische hersenen of het realistisch simuleren van essentiële delen van hogere hersenfuncties, verre toekomstmuziek is. Zulke scenario’s roepen  natuurlijk wel interessante vragen op over de rol van vrije wil en autonomie. Werner stelt in zijn essay dat wij wellicht persoonlijke autonomie in stand zullen houden omdat die een nuttige, maar onjuiste, juridische en politieke fictie bieden die noodzakelijk is voor een coherente samenleving. Een uitdagende gedachte. Als straks KI volwassen is geworden, zullen werkelijkheid en schijn misschien niet meer van elkaar te scheiden zijn. Virtual reality en real virtuality zijn dan versmolten. Hoe uniek zal dat toekomstige bio-techno-wezen zonder autonomie en vrije wil zijn?