Het boek waarom – Oorzaak, gevolg en de morele robot

Recensiefoto BoekWaaromAlphaGo is een computer-programma dat de beste Go-spelers ter wereld heeft verslagen. Hoe doet het dat? Geen idee. Zelfs de programmeurs van AlphaGo hebben geen idee waarom het zo goed speelt. Het maakt gebruik van convolutionele neurale netwerken, een vorm van deep learning, wat zelf evolueert. Als het niet werkt, weten de programmeurs ook niet hoe het gerepareerd moet worden.

Judea Pearl, schrijver van ‘Het boek waarom’, is duidelijk geen voorstander van deze manier van systeemontwikkeling. Niet transparant. Ook kun je geen zinnige gesprekken met zo’n ondoorgrondelijke robot voeren. Als het ’s ochtends vroeg begint te stofzuigen, moet je kunnen zeggen: dat had je nou niet moeten doen…., en je robot moet tot het inzicht kunnen komen dat een hoop herrie dat boze onuitgeslapen hoofd heeft veroorzaakt. Zover is het echter (nog) niet. Pearl zet in zijn boek uiteen dat zodra we causaliteit, de wetenschap van oorzaak en gevolg, kunnen programmeren, we de eerste stap hebben gezet naar kunstmatige intelligentie die alle menselijke cognitieve vaardigheden heeft, inclusief empathie en zelfbeheersing, die goed en kwaad kan onderscheiden, en waarvan we kunnen leren. Klinkt droog en technisch, he? Maar dat is dit boek allerminst!

Net als de bijbel begint het boek met Adam en Eva. ‘Heb je van die boom gegeten?’ vraagt God aan Adam. ‘Eva heeft ze mij gegeven’, zegt Adam. ‘Wat heb je gedaan?’ vraagt God aan Eva. ‘De slang heeft mij verleid’, zegt Eva. God vraagt ‘Wat’, beiden schuiven de schuld op een ander met de uitleg ‘Waarom’. Alsof het daarmee wel oké was. Niet dus. In onze evolutie hadden we er meer aan: Waarom? bracht ons inzicht in oorzaak en gevolg, en nog belangrijker, verbeeldingskracht: ‘wat als ik dit zou doen’, en de overtreffende trap: ‘wat als ik dat niet had gedaan’. Dit onderscheidt ons van dieren en heeft ons zo succesvol gemaakt, beginnend bij de mammoetjacht (die werd goed gepland met een hele groep jagers).

Pearl onderscheidt dan ook 3 stadia van ontwikkeling: associatie (bijvoorbeeld: wat vertelt een symptoom over een ziekte), interventie (wat gebeurt er als ik een aspirine slik) en contrafeitelijkheden (wat als ik die aspirine niet had geslikt?). Die 3 treden op de ‘Ladder van Causatie’ vullen het eerste hoofdstuk, waarin ook de modellen en causale diagrammen aan de orde komen.

In de hoofdstukken 2 en 3 gaat het over statistiek en Bayesiaanse netwerken, waarin hij zich flink afzet tegen de statistici die het licht van modellen en causatie niet zien en zich baseren op Big Data en regeltjes. Dit afzetten heeft trouwens heel wat geïrriteerde reacties van wetenschappers opgeleverd, die stellen dat die zwart-wit positie onzin is. Dat kan best waar zijn, maar doet aan de inhoud van het boek niets af, die blijft leerzaam en amusant.

In hoofdstuk 4 komen de experimenten aan de orde: gerandomiseerde gecontroleerde testen (RCT), waarin de invloed van variabelen wordt ontleed. Hoofdstuk 5 is volledig gewijd aan de geschiedenis van de discussie of roken kanker veroorzaakt en welke statistische modellen werden gebruikt. De ultieme test! Uiteindelijk kon de oorzaak-gevolg relatie worden aangetoond, waarna maatregelen tegen roken werden genomen. Daarna komen in hoofdstuk 6 een aantal leuke paradoxen, die bewijzen dat wij causaal denken, en niet statistisch.

Ik was erg gecharmeerd van dit hoofdstuk over paradoxen, met name de Simpson paradox, die in het boek een aantal keren terugkomt. Stel, je hebt 60 mannen en vrouwen die een medicijn uitproberen, en er is ook een controlegroep van 60 mannen en vrouwen die dat niet doen. Het medicijn zou het risico op een hartaanval moeten verkleinen. In de eerste (slik-)groep krijgt 3 van de 40 vrouwen (=7,5%) een hartaanval, en 8 van de 20 mannen (40%). In de tweede (niet-slik) groep zijn dat 1 van de 20 vrouwen (5%) en 12 van de 40 mannen (30%). In de tweede groep liggen zowel voor mannen als vrouwen de percentages lager. Niet slikken dus, dat medicijn! Maar wacht eens even….In de slikgroep krijgt in totaal 11 van de 60 mensen (18%) een hartaanval, in de niet-slik groep 13 van de 60 (22%). Dus als mens toch maar wel slikken! Hoe kan dat? Lees vooral het boek als je dol bent op dergelijke puzzels, want Pearl strooit deze royaal tussen alle formules door. Oh, en het antwoord? Niet slikken.

De hoofdstukken 7 tot en met 9 gaan verder de diepte in met veel formules en diagrammen die voor de data scientists onder ons appeltje-eitje zullen zijn, maar voor mij, met mijn ver weg gezakte schoolstatistiek, toch wel hard werken waren. Pearl trekt zijn conclusies over causatie en Artificial Intelligence tenslotte in hoofdstuk 10, wat weer meer filosofisch is, met de morele robot als happy end.

Het boek is uitstekend geschreven, toegankelijk en grappig, en als je geconcentreerd leest pik je heel wat statistiek op. Er staan vrij veel formules in, die soms vrij lastig zijn. Nog lastiger is het dat (minimaal) 5 formules onjuist in deze vertaling terecht zijn gekomen (op de pagina’s 169, 191, 293, 331 en 337 – pak vooral het Engelse origineel erbij als je me niet gelooft), waardoor je op sommige punten bijna afhaakt. Maar nu niet meer, natuurlijk, want nu weet je dat het niet aan jou ligt. Ook zijn sommige tabellen slecht (of juist niet) vertaald, waardoor je even moet zoeken naar de relatie tussen de afkortingen in de tabel en de uitleg eronder. Ondanks deze kritiek is dit een prima, uitdagend en ook uiterst relevant boek voor iedereen die geïnteresseerd is in kunstmatige intelligentie en (nog) iets van statistiek weet. En die liever niet gewekt wordt door zijn robotstofzuiger.

Je kunt dit boek kopen voor €24,50  bij Managementboek.nl en Bol.com.

Verder lezen?

Judea Pearl schreef in 2009 het boek Causality, met grofweg dezelfde inhoud, wat een bestseller werd. Het is vrij prijzig en alleen in het Engels beschikbaar. Je kunt dit boek bestellen bij Managementboek.nl en Bol.com. Voor de statistiek-beginneling is er van zijn hand ook Causal Inference in Statistics, alleen in het Engels. Je kunt dit boek bestellen bij Managementboek.nl en Bol.com. Eerlijk gezegd is Het boek Waarom de beste koop, zeker qua prijs en natuurlijk fijn in het Nederlands.

Aardig is Pearl’s verwijzing naar onze evolutie, wat hij ontleend heeft aan het uitstekende Sapiens van Yuval Noah Harari. De geschiedenis van de mensheid in een notedop. Ik vond dit een geweldig boek, dat kun je wel lezen in de recensie die ik hiervan schreef. Te koop bij Managementboek.nl en Bol.com 

Een beetje in lijn met de paradoxen die Pearl beschrijft, is het boek Feitenkennis van Hans Rosling. Ook hier speelt statistiek een hoofdrol, maar dan net even anders. Kort gezegd: de feiten zijn heeeeeel anders dan wij denken. Hoe komt dat? Fijn positief boek, want zo erg als wij denken is het allemaal niet. Te koop bij Managementboek.nl en Bol.com 

Gerelateerd aan dit onderwerp is ook Intuïtie, de bestseller van Malcolm Gladwell. Soms staan de feiten haaks op je intuïtie, en statistiek is al helemaal moeilijk als je snel een besluit moet nemen, dan nemen onze vooroordelen de leiding. Briljant boek, hier lees je er meer over, inclusief hoe je aan mijn Samenvatting ervan kunt komen.

Tenslotte heb ik een paar jaar geleden het boek Sociale Big Data van Alex Pentland gelezen. Fascinerend boek over statistiek en netwerken waar ik eerder een recensie over schreef. Jammer dat de schrijver zo arrogant is, maar de inhoud van het boek is zeker de moeite waard. Te koop bij Managementboek.nl en Bol.com 

Elly Stroo Cloeck is project- en interimmanager op het gebied van GRC en Internal Audit. Daarnaast schrijft ze samenvattingen en recensies van managementboeken. Ze ontving dit boek vaMavenPublishing om te recenseren. Deze pagina bevat affiliate links.

Dit bericht werd geplaatst in IT en getagged met , , , , , , , , , . Maak dit favoriet permalink.

2 reacties op Het boek waarom – Oorzaak, gevolg en de morele robot

  1. Pingback: Blok voor blok – blockchain voor filosofen | ESCIA

  2. Wat een stupide boek, als het ‘begrip’ van causaliteit stelt als voorwaarde voor ‘kunstmatige intelligentie’. Eeuwen van filosofen hebben dat begrip nog niet kunnen geven, en vrijwel niemand begrijpt het daadwerkelijk, maar toch zie ik daar een 747 vliegen. Causaliteit programmeren is he-le-maal *niets* anders dan correlaties programmeren. En empathie et al. onderdeel maken van cognitieve vaardigheden … dom, dom, dom. Goed en kwaad onderscheiden: Tsja, als de mesn dat eens zou kunnen!
    Etc.etc. — ik ga er vanuit dat je samenvatting klopt, onder andere omdat het jouw samenvatting is (causaal verband …) maar dan is het boek een aanfluiting…

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s