De Nadenk-app

De glazen kooi-wat automatisering met ons doet – door Nicholas Carr gelezen. En?

Toen ik vertelde dat ik dit boek aan het lezen was, was de eerste reactie van een collega: ”ik heb het boek ook besteld, maar als e-book. Gek dat dit als e-book uitkomt, de schrijver is toch tegen automatisering?” Nicholas Carr (1959) is een Amerikaanse schrijver, die schrijft over technologie, cultuur en economie. Voor zijn boek “Het ondiepe: Hoe onze hersenen omgaan met internet” was hij finalist voor de Pulitzer prijs 2010.

Ik denk niet dat Carr tegen automatisering is, wel is duidelijk(ook uit zijn blog op http://www.nicholascarr.com: Rough Type) dat hij veel negatieve effecten ziet van het volledig automatiseren van alles wat wij doen en denken, fysieke handelingen vervangen door robotisering, kennis opdoen en gebruiken door algoritmes, besluiten nemen door decision support systems. Omdat alles wat je niet meer regelmatig doet, “roestig” wordt, vraagt Carr zich af of wij straks nog wel kunnen nadenken? Of is daar dan ook een app voor? En hoe zit het met ethiek? Is 4% kans op letsel voor de eigenaar van een automatische auto bij een uitwijkmanoeuvre erger dan 50% kans om een hond dood te rijden? En wat als het geen hond is maar het kind van de buren dat een bal achterna rent? En als jouw kind ook in de auto zit, wat dan? En wie bepaalt dat dan? De auto eigenaar? De auto bouwer? De wetgever misschien? Of de verzekeraar? Kun je ethiek in algoritmes vertalen? Wat maakt ons mensen?

De automatische auto is nog niet voor iedereen beschikbaar, maar de Roomba, de automatische stofzuiger, wel. En die maakt geen onderscheid tussen stof en insecten. Hap, slik, weg. Dat is dan de “moral code” in huis.

Het boek komt langzaam op gang met de Luddieten: tegenstanders van automatisering in de textielindustrie rond 1815. Echt interessant vond ik het worden bij de genoemde voorbeelden uit de luchtvaartindustrie. Aan voorbeelden trouwens geen gebrek in dit boek: de mening van de schrijver is onderbouwd met grote hoeveelheden onderzoeken en publicaties. En dat wordt niet saai, in tegendeel, het boek leest geweldig weg, als een thriller! Er komen zelfs moordrobots in voor, ik bedoel maar.

Terug naar de luchtvaart, die als een rode draad door het boek loopt: ongelukken die gebeuren omdat door bijzondere omstandigheden de piloten opeens de besturing moeten overnemen van de automatische piloot. Soms met dodelijk gevolg: zij zijn alle routine kwijt en doen, ondanks opleiding en training, niet meer bijna instinctief het juiste. Hun vaardigheden gaan verlopen en hun reactievermogen vertraagt. Waardoor er slimmere, veiliger systemen worden gebouwd, de piloten nog minder hoeven te doen, nog minder vaardigheden overhouden, nog meer fouten maken….een self-fulfilling prophecy. Gelukkig zijn er ook voorbeelden van het tegendeel opgenomen: in 2009 raakte een Airbus al zijn motorvermogen kwijt na een “aanvlieging” met een vlucht ganzen. De piloten grepen in en maakten een noodlanding op de Hudson.

Dat brengt een principiële vraag naar voren: die piloten zaten daar in die cockpit, die glazen cockpit met alleen nog maar computerschermen met digitale informatie, om toezicht te houden. Dat is dus niet in alle gevallen nuttig. Worden wij de slaaf van de automatisering, in plaats van de meester? Zijn wij alleen nog maar goed om input te verzorgen, maar kunnen wij de computer niet meer “overrulen”, doordat ook ons beoordelingsvermogen is verdwenen? Om in luchtvaart termen te blijven, wordt ‘t het Boeing model (de computer heeft het laatste woord), of het Airbus model (de piloot beslist). Interessant weetje trouwens, voor de volgende vakantievlucht.

Het effect van de “automatische piloot” op de status en het salaris van de piloten is ook al merkbaar: voor een ervaren piloot wordt in Amerika nu al niet meer dan $36.000 betaald. Er voor een starter $20.000 of zelfs minder. Want in 99% van de tijd doen zij niet meer, nee nog minder, dan een lopende band medewerker. En natuurlijk geldt dit voor meerdere beroepsgroepen, die van mijzelf, accountancy bepaald niet uitgezonderd. Zitten wij dan in de nabije toekomst allemaal zonder werk?

Carr stelt de verontruste lezer gerust: Turing (zelfs hij!) zei al dat algoritmes onze intuïtie nooit helemaal vervangen, Levesque, een roboticawetenschapper geeft een voorbeeld van een eenvoudige vraag die mensen direct kunnen beantwoorden maar waar computers niet mee uit de voeten kunnen: “De grote bal viel dwars door de tafel, omdat hij was gemaakt van piepschuim. Wat was er nu van piepschuim, de bal of de tafel?”.

Loopt deze thriller slecht af? Dat niet, hoewel ik het einde niet sterk vond. Na een hoofdstuk over de onzichtbaarheid van de IT, waarbij wij, als mensen niet meer weten wat er eigenlijk gebeurt, hoe de programma’s in elkaar steken, wat er wordt aangepast en wanneer, en dat er nauwelijks sprake is van communicatie tussen computer en mensen, volgt een hoofdstuk over poëzie, met name “Mowing” van Robert Frost, en filosofie, waarin hij het concept “flow” bespreekt en ook het gebruik van gereedschappen en technologie als positief verwoordt. Maar hij stelt ook, in antwoord op zijn vraag uit het allereerste hoofdstuk: dat wat ons mens maakt is het steeds weer opdoen van nieuwe vaardigheden, al dan niet met die technologie, en de mogelijkheid om een rijk en geëngageerd leven te leiden. De mate waarin technologie ons daartoe in staat stelt, is het belangrijkst. Als het ons beperkt in groei, niets meer van ons eist, ”het leven verandert in een kale vlakte”, leidt dat tot doelloosheid, depressies, ADHD. Ik kan me er iets bij voorstellen, hoe harder je ergens voor werkt, hoe meer bevrediging je hebt als het is gelukt! Het zou jammer zijn dat fijne gevoel kwijt te raken. Anderzijds: ik ben net terug van een wandeling van 10 kilometer. Dat hoef ik niet te doen, ik heb een fiets, een auto, een OV-chipkaart. Maar ik doe het omdat ik vind dat het goed voor me is, en omdat ik het goede gevoel erna ook heel prettig vind!

Het is moeilijk om, vooruitkijkend naar de eindeloze mogelijkheden van automatisering, ook concreet te blijven over mogelijke alternatieven voor de “Nadenk-app”. Toch, de zin: “De actieve ziel is een onbezwaarde ziel. Door het gereedschap weer een deel van onszelf te maken, tot instrumenten van de ervaring in plaats van niet meer dan productiemiddelen, kunnen we profiteren van de vrijheid die goed aansluitende technologie ons biedt door de wereld beter voor ons te ontsluiten”, is voor mij echt te abstract. Misschien had Carr juist aan het einde, het door hem aangestipte concept van adaptieve automatisering nog wat kunnen uitwerken .En het vertrouwen kunnen uitspreken dat we, als individu en collectief, uiteindelijk zullen blijven doen wat goed voor ons is. Want als we dat al niet meer geloven….Maar of hij het ook gelooft, betwijfel ik. In ieder geval geeft dit boek erg veel stof tot nadenken. Zonder app (nog).

Dit bericht werd geplaatst in Boekbespreking, Gedrag, Innovatie en getagged met , , , , , , , , , , , , , , . Maak dit favoriet permalink.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

w

Verbinden met %s