Marietje Schaake schreef in 2026 De machtscode, een pamflet, zoals ze het zelf noemt, over AI. We vragen ons te weinig af waarvoor, hoe en waarom we AI willen inzetten, en zijn tolerant over de offers die we voor die inzet brengen. Realiseren we ons wel ‘hoe de onzichtbare belangenstrijd achter AI onze democratie bedreigt’? De AI die we in Europa gebruiken is van bedrijven van mensen met een anti-EU-agenda. AI is méér dan slimme software, het is machtscode. Zo, dat zet ze even stevig neer!

Marietje weet in een vrij kort stuk de risico’s van ‘vijandige’ AI, eigendom van techbro’s met nogal anti-democratische ideologieën overzichtelijk neer te zetten. Een mooie introductie voor degenen die zich hier wat minder mee bezig houden, en een compact overzicht van de huidige stavaza voor degenen die dat wél doen. De uit het betoog voortvloeiende aanbevelingen zijn voor-de-hand-liggend, maar niet vanzelfsprekend: Nederland en Europa moeten flink investeren én samenwerken. Maar ook bedrijven en consumenten kunnen hun steentje bijdragen: #BuyEuropean!

Het maatschappelijke boek De machtscode …

….. spreekt over Technofeodalisme, we zijn in de macht van bedrijven die ons bepaald niet gunstig gezind zijn. We moeten de macht terugpakken! Deze oproep plaatste Marietje eerder in haar boek De tech-coup, maar denk niet dat dit pamflet daarvan een samenvatting is. Nee, Marietje gaat meer in op de risico’s en nadelen van ‘vijandige’ AI en de ideologie van de mannen achter de ontwikkeling van de bekendste AI-tools, en minder op EU-regelgeving. Het is eerder een verkorte versie van De techbro’s, van George van Hal en Laurens Verhagen, wat 2 maanden later uitkwam (maar wat ik eerder las).

Historie

Marietje begint met de doorbraak van ChatGPT in 2022, gebaseerd op patroonherkenning. Ze maakt onderscheid tussen open en gesloten systemen en de impact op de veiligheid: bij gesloten systemen kunnen alleen de bedrijven de veiligheid garanderen, bij open systemen komen de vele gebruikers met snelle en meer diverse oplossingen, maar de downside is natuurlijk de hackers. Nu met agentic AI nemen de risico’s op de gebieden van privacy en aansprakelijkheid toe. En natuurlijk is er de toegenomen afhankelijkheid van 4 bedrijven die óns welzijn niet als prioriteit hebben.

Mythe

In de mythe van AI beschrijft ze de vergezichten van de voordelen van AI, ‘een land vol genieën’, toename van de levensverwachting, etc. en hoe dit de nadelen van een verstoorde machtsbalans en de offers legitimeert. Nog onduidelijk is hoe we het gedrag van AI in lijn kunnen brengen met onze menselijke waarden, helemaal omdat AI feitelijk een back box is. Dit is het ‘Alignment Problem‘.

Een ander issue is dat de huidige 4 koplopers bijna niet meer in te halen zijn, hoewel China hen op de hielen zit. Door die race wordt er vrijwel niet getest, alle nieuwe ontwikkelingen worden direct in de markt gezet. En door bedrijven gebruikt, want FOMO, angst voor achterstand op de concurrentie. Om de enorme benodigde investeringen te blijven aantrekken worden er steeds wildere voorspellingen gedaan, terwijl het beloofde rendement achterblijft. Gaat de AI-bubbel knappen?

Manipulatie en ideologie

In onze zoekresultaten met AI vindt censuur plaats. Een Chinese bot geeft geen antwoord op vragen over de Dalai Lama. Ook levert AI pertinent onjuiste resultaten: in een poging om meer diversiteit in de gegenereerde afbeeldingen te stoppen zien we opeens zwarte mensen in Nazi-uniformen. Deze twee voorbeelden zijn nogal expliciet, en de subtiele manipulatie die óók plaatsvindt zien we vaak niet.

De resultaten geven altijd de ideologie van de eigenaren (of van Trump) weer. En die is anti-democratisch, techno-utopisch, anti-Europees, anti-woke, of zelfs fascistisch. De AI-platforms worden ingezet voor politieke agenda’s. Marietje behandelt verder kort techno-optimisme, effectief altruïsme, Dark Enlightenment en longtermisme. Ook gaat ze in op de paradox dat eigenaren waarschuwen voor de existentiële risico’s van AI en tóch doorbouwen.

Palantir is aantoonbaar racistisch en discriminerend, wat voor de Amerikaanse overheid eerder een voordeel als een nadeel lijkt te zijn. Maar ook de NAVO gaat met Palantir in zee. Overheidstaken zoals defensie (en aanvallen) maar ook betalingsverkeer en mogelijk identificatie komen zo in private handen. Inmiddels is er groeiende weerstand tegen de techbedrijven, onder andere door hun steun aan Trump. Wat zullen hiervan de gevolgen zijn?

Vormen van macht

In het hoofdstuk Macht geeft Marietje aan dat buitenlandse bedrijven de risico’s van AI gebruik wegen, maar die risico’s worden op ons, gebruikers, afgewenteld terwijl de winst bij hen terechtkomt. Ze onderscheidt macht op verschillende terreinen.

*Macht over milieu: AI kan helpen klimaatverandering tegen te gaan met behulp van complexe modellen en berekeningen, echter AI verbruikt zelf veel land, water, energie en zeldzame aardmetalen. De AI bedrijven zijn hier heel intransparant over. In Nederland is er weerstand tegen datacenters, maar we hebben ze ook nodig voor onze soevereiniteit.  

*Macht over rechten: software discrimineert mensen van kleur en vrouwen, met name gezichtsherkenningssoftware. Ook treedt veel software het gelijkheidsbeginsel met voeten: bijvoorbeeld bij de beoordeling van cv’s.

*Macht over informatie: AI pikt nieuws van nieuwssites, niemand klikt nog door en de sites gaan failliet. Dit treft ook Wikipedia. Helaas plaatst AI ook artikelen op Wikipedia, vol met hallucinaties en vooroordelen. Die dan weer gebruikt worden als trainingsdata voor AI-modellen. Amazon pikt populaire modellen van producten van webwinkels die via haar platform verkopen, en ontwikkelt dan goedkopere kopieën. En ook onze eigen data worden verzameld en misbruikt, verkocht en tegen ons ingezet, surveillancetechniek die de macht concentreert.

*Macht over cultuur: stemmen (Scarlett Johansson), boeken, kunst, álles wordt gepikt en gebruikt door goedkope ‘concurrenten’.

*Macht over economie: het is nog altijd onduidelijk of er productiviteitsgroei zal komen.

*Macht over werk: Soms stijgt je productie en daalt je inkomen. Starters op de arbeidsmarkt hebben het zwaar. Er is een groot risico: ongeacht de werkelijke impact op de werkgelegenheid ontstaat er onrust in de samenleving, de noodzaak tot omscholing en een sociaal vangnet.

*Macht over politiek: deepfakes en beïnvloeding van het debat met AI-content (en/via X en TikTok). Het toekennen of weigeren van visa op basis van je social media-posts. Een overheid die, ook in Nederland, handelt in strijd met privacywetgeving.

*Macht over geopolitiek: de VS hielp Oekraïne met techniek, nu is Oekraïne afhankelijk van Palantir.

*Macht over regelgeving: VS voerde een sterke lobby die leidde tot de omnibus die regelgeving afzwakt.

*Macht over cyberveiligheid: AI is dual use software: je kunt het voor goede en kwade doelen inzetten. Medicijnen ontwikkelen én gifgassen. Cyberveiligheid én hacks.

De machtscode

Kijk naar de arbeidsmarkt, het verlies van intellectuele eigendom, het verbruik van water en energie, de erosie van de rechtsstaat: de impact van AI is nu al gigantisch. De techniek, het geld en de macht van de techbro’s staan tegenover de agenda en de moed van onze politici. Veel keuzes rond AI worden nu nog op basis van economische motieven in plaats van strategisch beleid gemaakt. Dat moet anders. We kunnen niet wachten op een barsten van de AI-bubbel of een democratisch bewind in de VS in 2028. We moeten ons eigen plan trekken.

Een agenda voor AI

Hoe moet dat plan eruit zien? We moeten niet alleen tegenmacht bieden, maar ook de kansen en mogelijkheden benutten. Eigen AI ontwikkelen die aansluit op onze principes. Niet sturen op nieuwe wetgeving, dat is te langzaam, maar voorstellen doen waarvoor géén wetswijzigingen nodig zijn.

De stappen naar digitale soevereiniteit zijn: 1. Een nulmeting van onze afhankelijkheden, een volledige inventarisatie van wat we gebruiken, plus een stresstest om de risico’s in kaart te brengen. 2. Een strategie ontwikkelen om de gevaarlijkste afhankelijkheden aan te pakken. 3. Reeds beschikbare alternatieven en ‘geleerde lessen’ in kaart brengen.

Verder moet AI meer en beter getest worden voordat het op de markt komt, denk aan de medische klinische proef als voorbeeld. Bij overheidstaken is uiterste voorzichtigheid geboden. Ook moet iedereen toegang hebben tot EU-AI, ook het MKB. Er is een onafhankelijke AI-dienst nodig om de politiek te adviseren. Wellicht kunnen de universiteiten deze rol vervullen? Belangrijk is om uit te leggen hoe onze bestaande wet- en regelgeving werkt bij AI, bijvoorbeeld voor de WOO, mededinging of aansprakelijkheid. En het oorlogsrecht ….

Maar ook het aanbestedingsrecht, probeer investeringen in AI in de EU te houden. Ook is geld nodig om te beschermen wat we hebben, denk aan datakabels. Digitale weerbaarheid en soevereiniteit zijn gebieden die binnen Defensie (moeten) vallen. Onze handhaving moet flexibeler en professioneler, en ook de acties van AI en de techbro’s moeten daaronder vallen. Om een EU-AI te bouwen is geld, maar ook capaciteit nodig. Dat betekent investeren in onderwijs, soevereine digitale infrastructuur, expliciete hoge veiligheidsnormen en publieke waarden. Maar ook het koesteren van ons talent, ze niet naar Silicon Valley laten vertrekken. Belangrijk is Europese samenwerking, erkenning van elkaars diploma’s, niet allemaal alles willen doen maar de taken verdelen op basis van capaciteiten. Samen aanbestedingen doen, en samen besluiten de techbro’s te weren. Ook moet de samenwerking met andere democratieën, zoals Canada en Japan, geïntensiveerd worden, en kunnen we ons laten inspireren door Taiwan, die China buiten de deur probeert te houden.

Zelfvertrouwen en niet ‘ja-maren’.

Het nawoord is óók interessant: we moeten wat meer zelfvertrouwen hebben. Silicon Valley is niet zo geweldig als je denkt: investeerders knijpen startups af, de infrastructuur (wegen, openbaar vervoer) is slecht, veel mensen worden slecht betaald en sociale voorzieningen zijn er niet. Positief daar is dat men denkt in mogelijkheden, terwijl wij in Nederland ‘ja-maren’. O ja, Europa is ook de grootste interne markt ter wereld met 450 miljoen welvarende inwoners.

Individueel kun je wat doen: stap nu over op Europese alternatieven! Maar collectieve, politieke, democratische actie is nodig.

Onze keuze is niet: innovatie óf democratie, maar democratisch bestuurde AI of ondemocratisch bestuurde AI.

Mijn evaluatie van De machtscode

Als je de AI ontwikkelingen al nauw volgt, vanuit technisch en politiek oogpunt, zul je in het pamflet weinig nieuws lezen. Sterk is de manier waarop Marietje een grote hoeveelheid informatie over de huidige stand van zaken in een kort stuk heeft weten samen te vatten. Zo heb je weer eens een goed overzicht van wat er nu speelt. Ben je niet zo op de hoogte, dan is dit prettig geschreven stuk een uitstekend begin om je verder in de materie te verdiepen. Ga daarna door met De techbro’s!

Een kwart van het stuk is een bronnenoverzicht, van gedetailleerde stukken en wetenschappelijke artikelen, tot krantenartikelen en speeches. Dit betoog is goed doortimmerd. Natuurlijk weerspiegelt het de situatie nu, en kan deze over een jaar alweer anders zijn. Daarom is de vorm, een pamflet, ook goed gekozen voor de boodschap.

Ook al gaat het pamflet over een technisch onderwerp, AI, het betoog is gericht op onze relatie ermee, de impact ervan. Daardoor is er nauwelijks sprake van jargon, je hoeft niet veel van AI te weten om het te begrijpen. Ook ligt de nadruk op Europa en Nederland, onze afhankelijkheden, en de risico’s die wij lopen, en gaat het in veel mindere mate over China en de VS, ook al komen daar de AI-tools vandaan. Dat maakt dat de voorbeelden die zijn gebruikt herkenbaar zijn.

Ook de structuur van het betoog is helder: de voordelen van AI zijn evident, de nadelen van de huidige AI-tools en hun eigenaren worden stevig aangezet. Daar rollen vanzelfsprekende aanbevelingen uit, die wat algemeen zijn en dus niet echt vernieuwend of verrassend. Die aanbevelingen zijn voor 99% gericht op de politiek, op Nederlands en Europees niveau. Maar voor de 1% die gericht is op individuen en bedrijven worden ook een paar praktische stappen gegeven: houd de nadelen van AI-gebruik in het oog, en stap over op Europese software. Dat laatste zal ook druk op de politiek uitoefenen om geld en aandacht in een Europese Stack te steken.

Mis je wat als je dit boek niet leest? Nee.  

Conclusie

Inhoud: Leerzaam 0, Onderbouwd +, Relevant +, Tijdloos -.

Vorm: Aansprekend+, Verzorgd +, Illustraties -, Structuur +, Schrijfstijl +

FOMO -. 

Ik gaf het boek 3 1/2*

Ken je dit boek? Wat vond je ervan? 

Lees De machtscode duurzaam …

• via de (online) bibliotheek (dat deed ik ook!);
• of uit een minibieb!

Koop De machtscode duurzaam … 

• bij de kringloop;
• bij een tweedehandsboekenwinkel zoals Boekwinkeltjes;
• bij je lokale boekwinkel, via Libris (aff.);
• of via B-Corp Bol (aff).

Keus genoeg!

Abonneer je hier op mijn nieuwsbrief