[Column] Algoritmen
Geplaatst: zo 02 dec 2018, 18:47
Het is al een tijdje aan de gang. De schijnbaar onweerstaanbare opkomst van de algoritmen. Tenminste als fenomeen buiten het puur mathematische domein. Algoritmen doen het tegenwoordig goed. Deze voor mij nogal opzienbarende trend heeft volgens mij alles te maken met de hype rond kunstmatige intelligentie en de informatisering van de samenleving in zijn algemeenheid.
Zo is er de actuele discussie over de wens of noodzaak om algoritmen van kunstmatige intelligente (KI) systemen openbaar te maken. De aanleiding is dat het nu al en in de naaste toekomst steeds vaker, onduidelijk is hoe een beslissing van een persoon of instantie die gebruik maakt van een KI-systeem, tot stand komt. De toenemende ongerustheid over dit gebrek aan transparantie is dat de uitkomst niet waardevrij is omdat er aan de manier waarop de afwegingen worden gemaakt, een bepaalde vooronderstelling of zekere vooringenomenheid ten grondslag ligt. Deze bias kan bijvoorbeeld behoorlijk discriminerend zijn.
Dat een besluit niet waardevrij is, lijkt mij nogal voor de hand liggend. In het algemeen kan je zeggen dat men bij het nemen van beslissingen gebruik maakt van een combinatie van logische beslissingsstructuren en criteria die bestaan uit een aantal variabelen met bijbehorende gewichten. Een persoon of organisatie bepaalt welke de verschillende logische keuzes en variabelen zijn en hoe de variabelen ten opzichte van elkaar worden gewogen. Die keuzes zijn, bijvoorbeeld bij het vaststellen of een bal de doellijn is gepasseerd, het toekennen van een huursubsidie of het verklaren dat iemand gek is, zijn politieke dus niet waardevrije keuzes. Dat was ook niet zo in het pre-KI-tijdperk. Ook toen was de besluitvorming niet altijd volledig transparant.
Het gebruik van de logische keuzes en de criteria, ofwel het doorrekenen met het algoritme, valt of staat met het onderliggende model van de werkelijkheid dat wordt gehanteerd. Het gevaar schuilt dan ook niet in gebrek aan transparantie in het gebruikte algoritme. Het probleem ontstaat door de onbekendheid van het wereldbeeld - waaronder met name de al dan niet ideologisch bepaalde aannames - die de opsteller van het beslissingsmodel en het daarvan afgeleide algoritme heeft gehanteerd.
Algoritmen zijn van alle tijden. Zij bestaan al vanaf het moment dat de mens in staat was door het construeren en toepassen van een algemene rekenregel vast te stellen dat twee en twee vier is. Het maken van sommetjes met onze hersenen en hulpmiddelen, heeft in nagenoeg alle sectoren van de maatschappij zijn nut ruimschoots bewezen. De wiskunde en haar toepassingen houden de moderne samenlevingen draaiende.
Maar de impact van algoritmen en wiskunde houdt niet op bij het maken van sommetjes. In 2009 schreeft Mario Livio het boek met de uitdagende titel Is God een wiskundige? en in 2014 kwam Max Tegmark op de proppen met zijn boek Our Mathematical Universe met de veelzeggende ondertitel My Quest for the Ultimate Nature of Reality. Deze twee boeken zijn slechts voorbeelden van de wassende stroom van artikelen en boeken over wiskunde, algoritmen en informatie die aangeven dat het bij informatieverwerking om meer gaat dan sommetjes maken. De mens en het universum worden steeds vaker beschouwd als informatieverwerkend systeem, een algoritme.
Dat werd mij weer eens duidelijk toen ik onlangs in het boek Homo Deus van Yuval Harari las dat organismen algoritmen zijn. In het boeiende vervolg op zijn succesvolle boek Sapiens beschrijft Harari hoe de mensheid met zijn wetenschappelijke en technologische ontwikkelingen van de afgelopen millennia de wereld heeft doen belanden in het antropoceen, het tijdperk van de mens. Vroeger zorgden onbeheersbare natuurkrachten zoals klimaatverandering, het verschuiven van tektonische platen, vulkanische uitbarstingen of botsingen met asteroïden voor ecologische omwentelingen. Geen enkel dier had daar de hand, of liever gezegd de poot in. Harari stelt dat wij nu banger van onszelf moeten zijn dan voor het natuurgeweld omdat de Homo sapiens de regels van het spel heeft veranderd: Deze ene apensoort is erin geslaagd om het wereldwijde ecosysteem in 70.000 jaar tijd radicaal te veranderen op een manier die nog niet eerder is voorgekomen.
Harari betoogt dat de mens zich de middelen heeft toegeëigend niet alleen aan zijn omgeving te sleutelen, maar ook aan zichzelf. De mens kan zichzelf herscheppen en daarmee plaatsnemen op de troon die vroeger aan een of meerdere goden werd toebedeeld. De mens wordt Homo Deus. Een belangrijk onderdeel in Hararis redenering is dat de mens in feite een algoritme is. Of anders gezegd dat het gedrag van organismen zoals mensen, kan worden beschouwd als de uitkomst van een geweldig complex stelsel van rekenregels, algoritmen.
Volgens mij is het essentieel hierbij te bedenken dat algoritmen geen op zichzelf staande entiteiten zijn, maar manieren om berekeningen uit te voeren die gekoppeld zijn aan een wiskundig model. Een model dat bestaat uit een verzameling wiskundige formules die een voor een bepaald doel relevant deel van de werkelijkheid beschrijven. Dat geldt voor zowel biologische wezens, technologische werktuigen (bijv. vliegtuigen) en administratieve systemen (doelpunt, huursubsidie, gekverklaring). Om een voorbeeld uit de technologische hoek te geven neem ik de automatische piloot van een vliegtuig. Om een vliegtuig de gewenste bewegingen te laten maken zonder dat de vlieger met zijn vingers aan de knuppel zit, beslist de automatische piloot welke acties moeten worden ondernomen. Daarvoor wordt alle noodzakelijke informatie via de sensoren als hoogtemeter, snelheidsmeter en GPS opgenomen en informatie gestuurd naar de actoren zoals motor, roer en flappen. De computer van de automatische piloot maakt de berekeningen met de algoritmen die zijn opgesteld op basis van het wiskundige model van de aerodynamica van het vliegtuig, de dynamische eigenschappen van de motor en de elektro-hydraulische eigenschappen van roer en flappen. De algoritmen zijn afgeleiden van het model. Zonder model zijn er geen algoritmen.
Dat geldt ook voor organismen. Als een dier (of mens) onbewust of bewust besluit een bepaalde actie uit te voeren, vertoont het hetzelfde systeemgedrag als een automatische piloot. Het organismen laat de sensorische informatie los op het interne model van de werkelijkheid, inclusief zichzelf dat in het brein is opgeslagen. Daarna neemt het organisme de actie die het resultaat is van het gewenste doel (overleven, genieten, emoties tonen) en de algoritmen die op het interne model zijn gebaseerd. Dat resultaat kan zijn vluchten of aanvallen, afdruipen of copuleren, huilen of lachen. Bepalend is dus hoe het interne model eruit ziet. Als we bijvoorbeeld naar de mens kijken is het interne model het beeld dat wij van de wereld hebben. Ieder mens heeft zijn eigen wereldbeeld dat is gevormd door zijn genetische materiaal en al zijn zintuiglijke waarnemingen die hij of zij na de conceptie in de hersenen zijn opgenomen, gefilterd, gesorteerd, verwerkt, gestructureerd en opgeslagen. Ieder mens heeft zijn eigen unieke wereldbeeld en dus ook zijn eigen, daarvan afgeleide algoritmen.
Daarom zal het volgens mij moeilijk zijn om op basis van kunstmatige intelligentie systemen te bouwen die een geloofwaardige weergave zijn het natuurlijke gedrag van mensen in het algemeen. Als we het hebben over het sterk door (spel)regels ingeperkte wereldbeeld c.q. interne model van een schaker of GO-speler, is het nog wel te doen. Maar als iemand een model wil maken van wat er allemaal door mijn hoofd spookt op het moment dat ik deze column op mijn toetsenbord zit in te kloppen, wens ik hem of haar daarmee veel succes. Om dat model te kunnen maken moet je mijn wereldbeeld goed kennen. Dat betekent kennis van mijn DNA, mijn epigenetische eigenschappen en al mijn ervaringen (zintuiglijke invoer) sinds ik in de baarmoeder ronddobberde. Daarom denk ik dat het heel erg lang zal duren, of misschien nooit zal gebeuren dat de mens in staat zal zijn een compleet KI-kopie van zichzelf of een ander mens te maken.
Wie zit er nou op een kopie van zichzelf te wachten? Waarschijnlijk de mensen die het eeuwige leven nastreven, zij die de dood dood willen verklaren. Tot die groep behoor ik (nog) niet. Ik vrees dat het alter-ego algoritme van Fred Kappetijn, mijn KI-kopie, nog even op zich zal laten wachten.
Zo is er de actuele discussie over de wens of noodzaak om algoritmen van kunstmatige intelligente (KI) systemen openbaar te maken. De aanleiding is dat het nu al en in de naaste toekomst steeds vaker, onduidelijk is hoe een beslissing van een persoon of instantie die gebruik maakt van een KI-systeem, tot stand komt. De toenemende ongerustheid over dit gebrek aan transparantie is dat de uitkomst niet waardevrij is omdat er aan de manier waarop de afwegingen worden gemaakt, een bepaalde vooronderstelling of zekere vooringenomenheid ten grondslag ligt. Deze bias kan bijvoorbeeld behoorlijk discriminerend zijn.
Dat een besluit niet waardevrij is, lijkt mij nogal voor de hand liggend. In het algemeen kan je zeggen dat men bij het nemen van beslissingen gebruik maakt van een combinatie van logische beslissingsstructuren en criteria die bestaan uit een aantal variabelen met bijbehorende gewichten. Een persoon of organisatie bepaalt welke de verschillende logische keuzes en variabelen zijn en hoe de variabelen ten opzichte van elkaar worden gewogen. Die keuzes zijn, bijvoorbeeld bij het vaststellen of een bal de doellijn is gepasseerd, het toekennen van een huursubsidie of het verklaren dat iemand gek is, zijn politieke dus niet waardevrije keuzes. Dat was ook niet zo in het pre-KI-tijdperk. Ook toen was de besluitvorming niet altijd volledig transparant.
Het gebruik van de logische keuzes en de criteria, ofwel het doorrekenen met het algoritme, valt of staat met het onderliggende model van de werkelijkheid dat wordt gehanteerd. Het gevaar schuilt dan ook niet in gebrek aan transparantie in het gebruikte algoritme. Het probleem ontstaat door de onbekendheid van het wereldbeeld - waaronder met name de al dan niet ideologisch bepaalde aannames - die de opsteller van het beslissingsmodel en het daarvan afgeleide algoritme heeft gehanteerd.
Algoritmen zijn van alle tijden. Zij bestaan al vanaf het moment dat de mens in staat was door het construeren en toepassen van een algemene rekenregel vast te stellen dat twee en twee vier is. Het maken van sommetjes met onze hersenen en hulpmiddelen, heeft in nagenoeg alle sectoren van de maatschappij zijn nut ruimschoots bewezen. De wiskunde en haar toepassingen houden de moderne samenlevingen draaiende.
Maar de impact van algoritmen en wiskunde houdt niet op bij het maken van sommetjes. In 2009 schreeft Mario Livio het boek met de uitdagende titel Is God een wiskundige? en in 2014 kwam Max Tegmark op de proppen met zijn boek Our Mathematical Universe met de veelzeggende ondertitel My Quest for the Ultimate Nature of Reality. Deze twee boeken zijn slechts voorbeelden van de wassende stroom van artikelen en boeken over wiskunde, algoritmen en informatie die aangeven dat het bij informatieverwerking om meer gaat dan sommetjes maken. De mens en het universum worden steeds vaker beschouwd als informatieverwerkend systeem, een algoritme.
Dat werd mij weer eens duidelijk toen ik onlangs in het boek Homo Deus van Yuval Harari las dat organismen algoritmen zijn. In het boeiende vervolg op zijn succesvolle boek Sapiens beschrijft Harari hoe de mensheid met zijn wetenschappelijke en technologische ontwikkelingen van de afgelopen millennia de wereld heeft doen belanden in het antropoceen, het tijdperk van de mens. Vroeger zorgden onbeheersbare natuurkrachten zoals klimaatverandering, het verschuiven van tektonische platen, vulkanische uitbarstingen of botsingen met asteroïden voor ecologische omwentelingen. Geen enkel dier had daar de hand, of liever gezegd de poot in. Harari stelt dat wij nu banger van onszelf moeten zijn dan voor het natuurgeweld omdat de Homo sapiens de regels van het spel heeft veranderd: Deze ene apensoort is erin geslaagd om het wereldwijde ecosysteem in 70.000 jaar tijd radicaal te veranderen op een manier die nog niet eerder is voorgekomen.
Harari betoogt dat de mens zich de middelen heeft toegeëigend niet alleen aan zijn omgeving te sleutelen, maar ook aan zichzelf. De mens kan zichzelf herscheppen en daarmee plaatsnemen op de troon die vroeger aan een of meerdere goden werd toebedeeld. De mens wordt Homo Deus. Een belangrijk onderdeel in Hararis redenering is dat de mens in feite een algoritme is. Of anders gezegd dat het gedrag van organismen zoals mensen, kan worden beschouwd als de uitkomst van een geweldig complex stelsel van rekenregels, algoritmen.
Volgens mij is het essentieel hierbij te bedenken dat algoritmen geen op zichzelf staande entiteiten zijn, maar manieren om berekeningen uit te voeren die gekoppeld zijn aan een wiskundig model. Een model dat bestaat uit een verzameling wiskundige formules die een voor een bepaald doel relevant deel van de werkelijkheid beschrijven. Dat geldt voor zowel biologische wezens, technologische werktuigen (bijv. vliegtuigen) en administratieve systemen (doelpunt, huursubsidie, gekverklaring). Om een voorbeeld uit de technologische hoek te geven neem ik de automatische piloot van een vliegtuig. Om een vliegtuig de gewenste bewegingen te laten maken zonder dat de vlieger met zijn vingers aan de knuppel zit, beslist de automatische piloot welke acties moeten worden ondernomen. Daarvoor wordt alle noodzakelijke informatie via de sensoren als hoogtemeter, snelheidsmeter en GPS opgenomen en informatie gestuurd naar de actoren zoals motor, roer en flappen. De computer van de automatische piloot maakt de berekeningen met de algoritmen die zijn opgesteld op basis van het wiskundige model van de aerodynamica van het vliegtuig, de dynamische eigenschappen van de motor en de elektro-hydraulische eigenschappen van roer en flappen. De algoritmen zijn afgeleiden van het model. Zonder model zijn er geen algoritmen.
Dat geldt ook voor organismen. Als een dier (of mens) onbewust of bewust besluit een bepaalde actie uit te voeren, vertoont het hetzelfde systeemgedrag als een automatische piloot. Het organismen laat de sensorische informatie los op het interne model van de werkelijkheid, inclusief zichzelf dat in het brein is opgeslagen. Daarna neemt het organisme de actie die het resultaat is van het gewenste doel (overleven, genieten, emoties tonen) en de algoritmen die op het interne model zijn gebaseerd. Dat resultaat kan zijn vluchten of aanvallen, afdruipen of copuleren, huilen of lachen. Bepalend is dus hoe het interne model eruit ziet. Als we bijvoorbeeld naar de mens kijken is het interne model het beeld dat wij van de wereld hebben. Ieder mens heeft zijn eigen wereldbeeld dat is gevormd door zijn genetische materiaal en al zijn zintuiglijke waarnemingen die hij of zij na de conceptie in de hersenen zijn opgenomen, gefilterd, gesorteerd, verwerkt, gestructureerd en opgeslagen. Ieder mens heeft zijn eigen unieke wereldbeeld en dus ook zijn eigen, daarvan afgeleide algoritmen.
Daarom zal het volgens mij moeilijk zijn om op basis van kunstmatige intelligentie systemen te bouwen die een geloofwaardige weergave zijn het natuurlijke gedrag van mensen in het algemeen. Als we het hebben over het sterk door (spel)regels ingeperkte wereldbeeld c.q. interne model van een schaker of GO-speler, is het nog wel te doen. Maar als iemand een model wil maken van wat er allemaal door mijn hoofd spookt op het moment dat ik deze column op mijn toetsenbord zit in te kloppen, wens ik hem of haar daarmee veel succes. Om dat model te kunnen maken moet je mijn wereldbeeld goed kennen. Dat betekent kennis van mijn DNA, mijn epigenetische eigenschappen en al mijn ervaringen (zintuiglijke invoer) sinds ik in de baarmoeder ronddobberde. Daarom denk ik dat het heel erg lang zal duren, of misschien nooit zal gebeuren dat de mens in staat zal zijn een compleet KI-kopie van zichzelf of een ander mens te maken.
Wie zit er nou op een kopie van zichzelf te wachten? Waarschijnlijk de mensen die het eeuwige leven nastreven, zij die de dood dood willen verklaren. Tot die groep behoor ik (nog) niet. Ik vrees dat het alter-ego algoritme van Fred Kappetijn, mijn KI-kopie, nog even op zich zal laten wachten.