Als ik een non-fictieboek lees, maak ik notities. Soms veel, soms wat minder. Ik schrijf met name allerlei feitjes op die nieuw voor me zijn. Notities dus, of in het Engels: Booknotes. Vaak schrijf ik teveel op voor een recensie. Te weinig voor een Impressie of Samenvatting. En tóch wil ik deze notities, deze ontzettend interessante dingen die ik in een boek las, met iedereen delen. Hoe ? Nou, met Booknotes dus. Laat je inspireren, deze keer met de Booknotes van De tech coup.
Dit is een boek over de impact van digitale disruptie op de democratie, zegt auteur Marietje Schaake over haar De tech coup uit 2024. We hoeven niet te kiezen wie de meeste schade aan de democratie toebrengt: een autocratische leider of Big Tech. Ze versterken elkaar. Technologie kan niet worden tegengehouden, en het kan ons veel brengen. Maar er is wel een goede balans tussen technologie en democratie nodig, en die is er nu niet. Marietje was 10 jaar Europarlementariër en werkte o.a. aan de Europese Digitale Agenda. Als iemand weet hoe de balans te herstellen, is zij het wel.
Booknotes van Marietje Schaake’s De tech coup
Inleiding
Wat zien we gebeuren in de wereld van Big Tech? Dat Big Tech meer macht heeft dan overheden. Dat dit ten koste gaat van de democratie. En dat we door het gebruik van allerlei techniek moreel afglijden. Want: democratische landen verkopen (én onderhouden) monitoring-technologie en -software aan autocratische landen die het gebruiken voor mensenrechtenschendingen. Sterker nog: die (zogenaamd) democratische landen gebruiken het zelf óók, tegen verdachten én tegen leden van de oppositie. Deze technologie draagt niet bij aan de democratie, nergens! Wetgeving rond gebruik loopt achter, de overheden besteden hun toezichtstaken uit aan Big Tech. Musk weigerde Oekraïne van Starlink te voorzien. Biden stelde: de bescherming van de nationale veiligheid en het inlichtingenapparaat is in handen van de private sector.
Voortschrijdende digitalisering zorgt voor een toename van autoritaire praktijken en een grootschalig verval van democratisch bestuur. In het westen hebben we Big Tech hun gang laten gaan. In China daarentegen staan al die technologieën in dienst van de waarden en het politieke systeem van de overheid. China exporteert dit model naar andere landen, zoals Egypte, via de ‘Digitale Zijderoute’.
Overheden krijgen geen inzicht in wat software nu precies doet, dat wordt afgeschermd onder het mom van Intellectuele Eigendom. Marietje vertelt over een ervaring bij Facebook, waar zij en collegae in 2016 namens het Europees Parlement wilden praten over moderatie. Er werd een rondleiding gegeven, en gezellig gesproken over Lean In, het nét gepubliceerde boek van de COO van Facebook, Sheryl Sandberg. Maar met de juristen mochten ze niet spreken, terwijl ze daar natuurlijk voor gekomen waren. De arrogantie! Big Tech denkt boven de wet te staan.
De macht van de tech-bedrijven moet genormaliseerd worden, en Marietje stelt voor inspiratie te halen bij …. de auto, eens óók zo’n disruptief product. We hebben rijbewijzen, veiligheidsvoorschriften, milieu-eisen, duidelijkheid rond verantwoordelijkheid van de producent. Er zijn normen en regels. We doen testen en audits. Waarom kan dit niet voor digitale technologieën? De wereld zal eerlijker, rechtvaardiger en gelijker worden als technologische systemen onder democratisch bestuur vallen.
De code
De digitale wereld is vanaf het begin vrij van toezicht geweest, tech-pioniers wilden de wereld veranderen: niet via politiek maar via hun softwarecode. De grondleggers van Internet, Cerf en Berners-Lee, hadden een ideaal: het internet zou emanciperen en de grote gelijkmaker worden. Voor én door iedereen. Organische groei zonder centrale controle, en gericht tégen de staat. Ze voorzagen de macht en dwang van het huidige Big Tech niet. En jongeren hebben nog steeds dat ideaal, gaan in Silicon Valley werken om het systeem van binnenuit te veranderen, maar ‘worden door de stroom meegesleurd’. De tech-miljardairs van tegenwoordig hebben nog steeds die anti-overheidsopvattingen, maar deze staan nu in dienst van de macht van de grote bedrijven.
De overheid is té afhankelijk van Big Tech om op te treden. Daarvoor is een historische reden. De data-analyse van Big Tech was cruciaal voor Obama’s verkiezingscampagne, en Obama was zó positief over de sector dat hij regulering achterwege liet, hij geloofde in zelfregulering. Dat er toen nauwe banden waren tussen de overheid en Big Tech werd duidelijk in 2013 toen Snowdon een boekje open deed over de massale afluisterpraktijken van de Westerse inlichtingendiensten met behulp van Big Tech. Big Tech reageerde geschokt en vergrootte de afstand tot de overheid door het introduceren van encryptie.
Pas als Big Tech accounts van Trump deactiveert wegens haatzaaien en misinformatie, wil het Witte Huis Big Tech aan banden leggen. Maar Biden is niet echt streng. En wat ook niet helpt is het enorme aantal overheidsmensen in de VS én Europa wat verkast naar Big Tech, waardoor de technische kennis bij de overheid weglekt. Inmiddels is het bijna onmogelijk om de werking en de mogelijke schade van technologie te beoordelen. Hoe wil je dan besturen of toezicht houden?
De stack
Tussen de mailapp op onze telefoon en die van de ontvanger van je mail zit een behoorlijke laag infrastructuur: de stack. Van microchip naar antenne naar GSM-mast of router naar glasvezelkabels naar datacenter, en weer naar kabels etc. Over onze afhankelijkheid van de microchips, de kabels en de datacenters gaat dit hoofdstuk.
Wat betreft de microchips, er zijn maar een paar bedrijven die ze produceren, want er zijn enorm veel geld en goed geschoolde werknemers nodig. China gebruikt 60% van de wereldwijde productie, en moet alles bij buitenlandse partijen kopen. Daardoor staan microchips in het middelpunt van de huidige geo-politieke strijd. Dat geldt ook voor de VS en Europa. De grootste productie (90%) vindt plaats in Taiwan. Maar voor die productie zijn aardmetalen nodig en daarvan heeft China het monopolie. En voor de lithografiemachines die ook voor de productie nodig zijn, heeft de EU ASML.
Dan de kabels. Daar kunnen we kort over zijn: het gaat om spionage, ondermijning, controle-overname, vernieling, en het politieke belang van de eigenaren van die kabels. Want voor zo’n 66% zijn de kabels eigendom van Big Tech. Zijn zij voorbereid op grootschalige aanvallen?
Steeds meer data, meer cryptomining en steeds meer AI leidt tot steeds meer datacenters. Die slurpen energie (2% van het wereldwijde verbruik) en verbruiken veel water. Daartegenover staat maar een beperkte creatie van banen. Maar de onderhandelingsmacht van de eigenaar, die vaak niet bekend gemaakt wordt, is vele malen groter dan die van het part-time bestuur van een gemeente zoals Zeewolde. De ‘clouds’ die erop draaien zijn in private handen, wel 60% in die van Amazon, Microsoft en Google. De afhankelijkheden zijn dus groot, de kans op stroomstoringen ook buiten de datacenters heel groot, de milieueffecten aanzienlijk en het toezicht beperkt.
Alles wordt een wapen
We sluiten allerlei slimme apparaten op het internet aan, en de cyberrisico’s vliegen omhoog. Als klein bedrijfje of lokale overheid is het moeilijk je te verdedigen tegen staatsgesteunde hackers. En laten we eerlijk zijn: alles wat gedigitaliseerd is, kan tot wapen worden gemaakt. Bedrijven die digitale infrastructuur aanleggen en overheden die dat gebruiken wijzen naar elkaar als het gaat om de verantwoordelijkheid voor cyberveiligheid. Natuurlijk kunnen bedrijven misbruik maken van hun positie, denk aan Huawei, die zich met lage prijzen in het KPN netwerk frummelde en mobiele nummers aftapte. Alle gevoelige info van onze overheid toegankelijk voor China! Daarbij komt dat het heel moeilijk is om te beoordelen of alle inbreuken en lekken door Big Tech bekendgemaakt worden, of er preventief genoeg gedaan was aan veiligheid, en wie de schuldigen zijn.
Cyberveiligheid is een bedrijfsmodel geworden: black hat hackers (de ‘schurken’) verhuren zich aan wie er maar wil betalen, ook overheden die hun activiteiten onder de pet willen houden. Bedrijven maken winst door het verkopen van hun producten en mensen, maar de schade door falen komt ten laste van de samenleving. Gedragscodes, zoals het bekendmaken van kwetsbaarheden, zouden wettelijk vastgelegde regels moeten worden. En geen lappendeken van regeltjes, maar een duidelijke verantwoordingsstructuur.
Het einde van het publieke belang
Een aantal kerntaken van de overheid is in handen gekomen van Big Tech. Denk aan monetair beleid versus cryptovaluta, grondrechten van de burgers versus gezichtsherkenning-software en nationale veiligheid versus data-integratie.
Door cryptovaluta is er een alternatief financieel systeem ontstaan wat buiten bereik is van overheidstoezicht. Maar veel overheden omarmen crypto: Dubai, El Salvador, Argentinië. Niet toevallig landen met autocratische leiders. En laten we niet vergeten dat criminelen en terroristen een voorkeur hebben voor cryptovaluta, en dat oplichting héél makkelijk is. O ja, het losgeld bij een ransomware-aanval is óók crypto. Veel mensen belegden hun spaargeld erin, de crash van 2022 kwam voor hen hard aan. Ook FTX, de marktplaats voor cryptovaluta, crashte, doordat het bedrijf grote leningen had verstrekt aan een cryptohandelaar. Toen er een bankrun kwam, bleek FTX zijn klanten niet te kunnen terugbetalen. Hoe is FTX’ frauduleuze beheer van fondsen zo lang onopgemerkt én onbestraft gebleven? Omdat men dacht dat regulering innovatie zou smoren. En ook omdat de eigenaar van FTX veel campagnebijdragen aan politici deed ….
Het publiek belang is niet gediend met private cryptovaluta: de waarde wordt niet gegarandeerd door bijvoorbeeld het depositogarantiestelsel. Crypto-mining is bijzonder slecht voor het milieu. Overheden kunnen er wel wat tegen doen. Helemaal verbieden, zoals China. Zelf een cryptomunt uitgeven, mét garanties, zoals de CBDC.
Dan gezichtsherkenning-software. Het bedrijf Clearview scrapete 30 miljard afbeeldingen van het internet. Er is nu eenmaal weinig regelgeving rondom biometrische data, en hoewel social media deze praktijken in hun gebruikersvoorwaarden hadden verboden, hebben ze het niet kunnen voorkomen. Die database van 30 miljard foto’s werd verkocht aan politie en justitie en 2000 (!) handhavingsinstanties in de VS. Of er werden proefversies verstrekt. Wetshandhaving leunt nu óók al op Big Tech. En gezichtsherkenningssoftware maakt veel matchingfouten: tot 34% bij vrouwen van kleur! Dat heeft gevolgen, je zit zomaar onterecht in de gevangenis. Ook in Nederland: Kirsten Verdel, wie kent haar niet, werd na zo’n matchingfout onterecht beschuldigd van deelname aan een demonstratie op Schiphol. Moeten we zulke onbetrouwbare en privacy-schendende software wel gebruiken?
Palantir is een grote naam als het gaat om data-integratie, het ontvangt data van veel verschillende instanties en analyseert en combineert deze tot bruikbare inzichten. Een bekende afnemer van die ‘inzichten’ is ICE, die hiermee immigranten zonder papieren opspoort. O ja, software van Palantir is ook gebruikt bij de jacht op Osama bin Laden. Maar ook de EU koopt bij Palantir, voor Europol en diverse ministeries van Volksgezondheid. Veel contracten kennen geen aanbesteding, er is geen transparantie en geen toezicht op het ontstaan van die ‘inzichten’. Overheden hebben de mensen en de kennis niet (meer) om zelf dergelijke innovaties te ontwikkelen. En zo verliest de burger zijn rechten.
Technologie aan de frontlinie
Navalny, de Russische oppositieleider, streed tegen corruptie en werd gevangen gezet en vermoord. Hij probeerde de Russen te bereiken met documentaires via YouTube, en met een app die als een soort stemwijzer functioneerde. Poetin dwong Apple en Google de app te verwijderen (wegens ‘terrorisme’), onder dreiging hun werknemers in Rusland persoonlijk verantwoordelijk te houden. Honderd lokale werknemers waren uiteindelijk belangrijker dan de belangen van >100 miljoen kiezers, en de app verdween. Wist je dat autocratische regeringen vaker buitenlandse bedrijven dwingen om medewerkers in het land te hebben, juist om deze te kunnen gijzelen? Techbedrijven staan in de frontlinie van de democratie, en geeft ze dus veel macht over de wereldpolitiek.
Dan Kenia. Bij de verkiezingen in 2007 werd door beide kanten de uitslag betwist. Het leidde tot massaal geweld en een kwart miljoen ontheemde mensen. De onrust bleef tot de verkiezingen in 2017, die moesten dus boven elke twijfel verheven zijn. Marietje was er als waarnemer bij. Dit keer moest digitale technologie elk vermoeden van fraude uitbannen, en Kenia gaf er een half miljard dollar aan uit. Het Franse Safran won de aanbesteding. Verontrustend, het was eerder veroordeeld voor omkoping in Nigeria. En het bleek dit keer onvoldoende aandacht voor de veiligheid van de biometrische data te hebben. Op de dag van de verkiezingen stonden 20 miljoen Kenianen in de rij om te stemmen. Maar: de tablets deden het niet, er was geen stroom, de mobiele netwerken raakten overbelast en men ging (weer) papier gebruiken. En er werd weer ‘fraude’ geroepen. De servers van Safran mochten niet geaudit worden. En omdat het hele proces dus niet transparant was en niet controleerbaar, werden de verkiezingen nietig verklaard. Een half jaar later moest er opnieuw gestemd worden. De opkomst was maar de helft van de eerste verkiezing, de geloofwaardigheid was weg, de oppositie trok zich terug. Leerpunt: waarnemers kunnen bij digitalisering nauwelijks hun werk doen als het proces zich in ‘zwarte dozen’ bevindt.
En dan de levering van Starlink aan Oekraïne, nadat Rusland de telecom-infrastructuur had vernietigd. Dat ging goed, totdat Musk daar toch geld voor wilde zien. De VS betaalde het. Andere bedrijven uit de VS voorzien in drones of satellieten, gezichtsherkenning of bescherming tegen malware. Tenminste, nu wel, maar blijft dat zo? Wat zegt dat over de soevereiniteit van Oekraïne? Plus: ze kijken commercieel naar het conflict. Rusland is niet interessant voor ze. Maar China wel …. Opeens hebben aandeelhouders het voor het zeggen in internationale betrekkingen. En oorlogsrecht is niet van toepassing op buitenlandse bedrijven, het handvest van de VN is niet door Big Tech ondertekend.
Cyberoorlog valt niet onder de reguliere definitie van oorlog. Bedrijven kunnen staat-gesponsorde malware verwijderen. Gebeurt dat dan in opdracht van de eigen overheid? En kunnen bedrijven zo’n opdracht weigeren? En bedrijven kunnen wel naar staten als Rusland en China wijzen bij cyberaanvallen en spionage (commerciële attributie), ze kunnen niets doen om de daders te straffen, dat kan alleen een overheidsinstantie (publieke attributie). Echter, de politieke wil daarvoor ontbreekt vaak en verantwoordingsmechanismen voor cyberspace ook. Want een overheidsinstantie kan ook een soort cyberaanval uitvoeren als verdediging in de digitale wereld, en men ziet zich daarin liever niet beperkt. Zo doet de VS in Oekraïne fysiek niet mee aan de oorlog (geen boots on the ground) maar wat betreft cyberaanvallen wél. Maar is het wenselijk dat staten, inclusief democratische staten, niet ter verantwoording geroepen kunnen worden? Willen we dat cyberspace een wetteloze, gevaarlijke plek wordt? Willen we dat de soevereine macht van staten steeds verder uitgehold wordt?
De framers
Cambridge Analytica was cruciaal bij de overwinning van Trump in 2016, via Facebook werden de gegevens van 50 miljoen mensen geanalyseerd en via mailings werden verschillende soorten boodschappen naar verschillende soorten mensen gestuurd. De verhoren bij de Senaat en het Europees Parlement waren niet zo effectief als ze hadden kunnen zijn, maar wierpen wel de schaduw van regelgeving voor mondiale tech-bedrijven vooruit. Daar kwamen de tech-bedrijven tegen in het geweer.
Ze gebruikten taal om zichzelf als helden te framen en wetgevende instanties als boosdoeners. Ten eerste hadden ze het over ‘het internet (niet: Big Tech) reguleren, alsof beperkingen voor een handjevol tech-bedrijven het populaire internet onherstelbare schade zou toebrengen. Ten tweede beweerden ze dat regulering innovatie de nek omdraait. In werkelijkheid stimuleert regulering juist innovatie omdat men gedwongen wordt betere alternatieven te zoeken. Maar het publiek gelooft de beide frames.
De tweede verdedigingslinie was zelfregulering. Facebook wilde wel een Toezichtsraad opzetten voor contentmoderatie, met onafhankelijke, bekende experts. Marietje wordt gepolst voor deze Raad, maar ontdekt dat het mandaat minimaal is, het zou alleen over het verwijderen van content gaan, verder niets. Meer een adviesorgaan voor PR doeleinden dus. Ze zegt nee. Bij andere platforms, TikTok en X, speelt iets vergelijkbaars. Ze wordt wél lid van de werkelijk onafhankelijke Real Facebook Oversight Board (RFOB) die in 2023 voor het laatst in het nieuws kwam met kritiek op het re-platforming van Donald Trump.
Big Tech ging ook flink lobbyen om regelgeving tegen te houden. De lobby heeft in het algemeen 3 doelen: wetgeving tegen te houden, contracten binnen te halen, imago te verbeteren. Aan het lobbyen worden miljoenen besteed, maar het levert gewoon nóg meer op. Microsoft beheerst het tot in de perfectie.
Over contentmoderatie, de antwoorden van AI in het algemeen en bots in het bijzonder worden óók gemodereerd. Maar het tempo en de schaal liggen zó enorm hoog, is moderatie wel mogelijk? En wat zijn de gevolgen als fouten niet gecorrigeerd worden en op internet blijven rondzwerven? BlenderBot3 beweerde dat ‘sommige regeringen en twee internationale organisaties Maria Renske Schaake een terrorist noemen’. Marietje kwam niet achter de bron voor dit antwoord.
De ‘AI-wapenwedloop’ zorgt voor de lancering van niet geteste updates. Die wapenwedloop geldt niet alleen voor de onderlinge concurrentie van de 4 Amerikaanse bedrijven maar ook ten opzichte van China. China vóór zijn, is nu het frame. In de toekomst zullen AI-systemen bepalen welke doelen door een drone geraakt moeten worden, wie wel of niet een vaccin krijgt, etc. Wie houdt daar toezicht op? En kunnen we er bezwaar tegen maken? Grappig genoeg ziet Big Tech dat hun systemen ontwrichting in de samenleving kunnen veroorzaken, en vragen nu pro-actief om toezicht. Ja, ze willen de verantwoordelijkheid kunnen afschuiven als het misgaat. En OpenAI pleitte voor een licentie-systeem voor AI bedrijven. Slim, want zo kan de sector nieuwe spelers buiten de deur houden. En tegelijkertijd is de sector zeer tégen de regulering vanuit de EU. Ze willen de regulering volledig naar hun hand kunnen zetten.
Soevereiniteit terugwinnen
In 2019 kwam het initiatief voor een Europese cloud: Gaia-X, een poging om Europese soevereiniteit te creëren, zonder de achterdeurtjes van Amerikaanse en Chinese producten. Maar Amazon, Google en Microsoft zijn lid van Gaia-X, omdat inmiddels integratie en gedeelde cloud-standaarden wenselijk zijn. Europese cloud-bouwers zijn hiermee natuurlijk niet geholpen.
De EU loopt wel voor qua regulering. In 2016 de AVG, die tot een stortvloed van lobbyactiviteiten van Big Tech leidde. Desondanks hebben vele landen regelgeving aangenomen die gemodelleerd was naar de AVG. Een probleem is de beperkte capaciteit voor handhaving, zeker in vergelijking met de budgetten van Big Tech. Nieuwer is de zogenaamde AI-Act, die in 2024 is goedgekeurd en gefaseerd in werking treedt. Hopelijk wordt die ook overgenomen door de rest van de wereld. Dit moet echter samengaan met minder uitbesteding van overheidstaken naar Big Tech.
Tegelijkertijd loopt er in de VS een andere discussie: meer focus op nationale veiligheid dan op de privacy van de burger. Democraten en Republikeinen zijn eensgezind in hun angst voor China’s gooi naar technologisch leiderschap, denk aan het TikTok-verbod. Een mix van de Amerikaanse en Europese aanpak zou ideaal zijn: nationale veiligheid én burgerlijke vrijheden.
In China heerst digitale repressie. De Oeigoeren worden gebruikt als testcase voor data-collectie: ook emoties, en zelfs de poriën van de huid worden gemonitord. De VS wilde zich daarom ontkoppelen van Chinese technologie, maar de tech-bedrijven zien daar niets in: in China hebben ze een miljard potentiële klanten. Daarnaast is Big Tech afhankelijk van zeldzame aardmetalen en goedkope arbeid in China. China’s strategie inzake digitale technieken is ontwikkelen, zoals met telecom, en aan zich binden, kijk maar naar Afrika. China levert aan veel regeringen in Afrika spionagetechnologie die gebruikt wordt voor onderdrukking, en krijgt in ruil daarvoor toegang tot zeldzame grondstoffen en energie. En bij belangrijke stemmingen in bijvoorbeeld de VN, kan China rekenen op de steun van veel Afrikaanse regeringen. Dit is de voorbode van grote geopolitieke verschuivingen die een bedreiging vormen voor de liberale democratische orde.
India tenslotte doet iets vergelijkbaars als China, veel in eigen land ontwikkelen, overheidscensuur op content, monitoring voor repressiedoeleinden. De cultuur is wat anders, maar het resultaat hetzelfde.
Autoritaire regimes winnen aan kracht door gebruik van de digitale technieken. En Big Tech? Die zijn alleen geïnteresseerd in markttoegang, en daar maken ze democratische beginselen of mensenrechten ondergeschikt aan.
Het publieke belang eerst
De AI-wetgeving in de EU is risk-based, het focust op de effecten van AI, niet op de techniek, die toch steeds verandert. Classificatie in risico’s is echter lastig voor generatieve AI, die zaken produceert die nauwelijks van echt te onderscheiden zijn. Misleiding is dus een risico. Nepporno zorgt voor trauma’s. Het vertrouwen in het nieuws daalt. De EU wetgevers probeerden het in de Act te verwerken, wat leidde tot een fel debat, en ook het grootste probleem van tech-regulering liet zien: je loopt als wetgever altijd achter de feiten aan. De AI-wet richt zich dan ook niet op de tech-bedrijven, hun buitensporige hoeveelheid middelen, data en rekenkracht, niet op marktdynamiek, niet op systeemrisico’s. En ook niet op wat te doen als de tech-bedrijven de wetten trotseren.
Het is dus nodig om de wetgeving te richten op de macht van die bedrijven, te zorgen dat de democratie het kader is waarbinnen technologieën worden ontwikkeld en gebruikt. De tech coup, de machtsovername van de tech-bedrijven, moet teruggedraaid worden. Marietje heeft een aantal voorstellen daarvoor.
1. Zo is daar het voorzorgsbeginsel. De huidige toepassingen kunnen geloofwaardig nepnieuws produceren, discrimineren, cyberdreiging verergeren, en transparant toezicht belemmeren. Ze zijn niet beoordeeld op het voldoen aan bestaande wet- en regelgeving. Natuurlijk is het beter om problemen te voorkomen, en niet te wachten tot de schade is aangericht. Sommige problemen zie je niet aankomen: chips voor broodroosters die in Iraanse drones in Oekraïne worden gebruikt. En sommige wel: het gebruik van spyware wat direct resulteert in inbreuk op de privacy van mensen. Gelukkig hebben we al voorbeelden hoe we dit kunnen aanvliegen, bijvoorbeeld rond genetisch gemodificeerde gewassen. Het voorzorgprincipe wordt (natuurlijk) gesaboteerd door de tech-bedrijven: ze brengen nieuwe producten zo snel mogelijk op de markt, faciliteren nauwelijks onafhankelijke beoordelingen, en hebben zelf onderzoekers op de loonlijst staan die positieve beoordelingen produceren. Wat we nodig hebben is iets als de klinische experimenten in de geneeskunde, onafhankelijk multidisciplinair onderzoek en vooral ook: financiering ervoor.
2. Dan de technologieën die al aantoonbaar antidemocratisch zijn: spyware, (persoonlijke) datahandel, gezichtsherkenning, cryptovaluta. In handen van democratische overheden zijn sommige technologieën (in sommige gevallen) toegestaan, denk aan gezichtsherkenning bij grensovergangen, maar gebruik door bedrijven moet aan banden gelegd worden. Bij cryptovaluta kun je aan licenties met toezicht denken.
3. Transparantie is de derde maatregel. Het moet bekend zijn wie er achter datacenters zitten, wanneer AI is/wordt gebruikt (label) of juist niet (watermerk), bekendmaking wie investeerders en financiers van bedrijven zijn, publicatie van milieu-effecten van ontwikkeling en gebruik, verantwoordingsplicht van de overheid (en het nakomen van WOO-verzoeken) met name bij uitbesteding van overheidstaken aan bedrijven, en tenslotte het beperken van het recht op geheimhouding in verband met intellectueel eigendom.
4. Ook is er: ‘het goede voorbeeld geven’. Overheden kunnen hun inkoopmacht gebruiken om ‘goede’ technologieën te stimuleren, alleen met ethische partijen zaken te doen, en bij aanbestedingen effectieve (dat wil zeggen niet-verouderde) standaarden op te leggen, denk aan Zero Trust en Privacy by design. Contracten zouden gestandaardiseerd moeten worden qua verantwoordelijkheden, rapportages en toezicht. Kleinere overheden hebben zo een betere onderhandelingspositie.
5. En dan het vergroten van de kennis bij de overheid: niet alleen experts op het gebied van recht en financiën, maar ook technologie-experts binnenhalen voor input in het wetgevingsproces.
6. Bedrijven die ‘too big to fail’ zijn, de 4 grote platforms, zouden aan extra eisen moeten voldoen, net zoals de grote banken extra eisen hebben qua liquiditeit etc. De platforms hebben dan eisen rond extra toezicht en audits, op algoritmen, privacy en beveiliging. Dit is in de Digital Services Act deels opgenomen.
7. Voor cyberincidenten zou er een arbitragehof kunnen worden opgetuigd, die onderzoekt en bepaalt wie er voor een cyberaanval verantwoordelijk is. Hierbij is het ook nodig om definities en normen te hebben voor beveiliging en regelgeving van grensoverschrijdende publieke ruimten, denk aan de zeekabels en de satellieten.
8. Gelijkgestemde landen moeten samenwerken: een gezamenlijke missie, uitvoering en handhaving. Voorbeelden zijn de Declaration for the Future of the Internet en de AI Advisory Body van de VN. Veel wordt gedragen door de G7 en de G20. Maar daar knelt het: het Mondiale Zuiden valt er buiten, en China zal zich er niet naar voegen. In dit kader is het ontwikkelen van een ‘publieke stack’ van belang. Momenteel zijn veel overheidsinstanties, inclusief universiteiten, afhankelijk van hun IT-leverancier: er is ‘vendor lock-in’. Dit levert nationale veiligheidsrisico’s op.
9. Het ontwikkelen van wetgeving en handhaving moet op de schop. Er wordt te weinig gehandhaafd, deels door gebrek aan capaciteit, deels door te nauw mandaat. Meer personeel, geld en mandaat is nodig, met wetten die principle-based zijn, en sancties die overtuigend zijn.
Conclusie
De buitensporige macht van tech-bedrijven heeft invloed op mensen, markten, bestuur, veiligheid en geopolitiek. Nergens is de democratie erop vooruit gegaan, maar het autocratische model is er juist door opgebloeid. Techbedrijven zijn tussenpersonen geworden in diplomatie, ontwikkeling en democratie, en onderweg hebben ze historische winsten geboekt. Dat is niet goed. Deze tech coup moet worden teruggedraaid.
Innovaties in technologie hebben veel goeds gebracht. Maar de menselijke maat en gemeenschapszin van populaire technologieën worden verdrukt door honger naar omzet en winst. De macht is van democratische instellingen verlegd naar bedrijven, en het risico van tirannie van die bedrijven is reëel. De leiders van de tech-bedrijven hebben niet het mandaat en zeker niet het morele besef om zo’n groot deel van onze samenleving te sturen. De tech-coup heeft het sociale contract tussen de staat en haar burgers herschreven.
Zodra beleidsmakers deze problemen onder ogen zien, kunnen ze ingrijpen, ze zijn er toe in staat en hebben de mogelijkheden ervoor. AI, maar ook ontwikkelingen in kwantum-, bio-, en neurotechnologie kunnen een bepalende invloed hebben op ons bestaan, het zelfs kunnen uitroeien … Daarom is er geen tijd te verliezen. Maar we verliezen onszelf in kleinzielig politiek gekibbel. We moeten debatteren over de juiste plaats van technologieën in onze samenleving, en dan de juiste leiders kiezen, zij die het algemeen belang dienen.
‘Pas als burgers de macht weer hebben, zal de tech-coup voorgoed ten einde zijn.’
Mijn mening over De tech coup?
Wat ik van dit boek vond, lees je later in mijn recensie.
Andere Booknotes
Lees ook mijn Booknotes van:
ESCIA - 1001boeken 