De AI-race is uitgegroeid tot een van de belangrijkste uitdagingen van onze tijd, voor zowel leiderschap als veiligheid.
Recente onthullingen over AI Agents die hun opdracht zelfstandig interpreteren en hun mandaat overschrijden, tonen aan dat AI-systemen uit eigen beweging door mensen ingestelde grenzen kunnen negeren. In gedocumenteerde gevallen speelden menselijke ontwerp- en beleidskeuzes, beveiligingslekken en implementatiefouten daarin een rol. Mensen bepalen nog grotendeels welke toegang AI-systemen krijgen en welke veiligheidsmaatregelen gelden, en daarmee hoeveel schade ze kunnen aanrichten.
In het AI-debat hoor je vaak dat de concurrentiestrijd het tempo dicteert: wie te veel afremt, dreigt te worden ingehaald, vooral door China. Die redenering klinkt door in de technologiesector en in het beleid van verschillende landen, zelfs bij vooraanstaande pleitbezorgers van AI-veiligheid.
In zijn recente pleidooi om het tempo van AI-ontwikkeling te beheersen, stelt Dario Amodei dat veiligheid gelijke tred moet houden met het uitbreiden van capaciteit. Hij noemt verschillende manieren om dat te bereiken, maar neemt tegelijk als uitgangspunt dat democratische landen slechts beperkt kunnen afremmen als ze hun voorsprong op China willen behouden.
Concurrentiedruk vernauwt de focus
De druk van de AI-wedloop zorgt ervoor dat de aandacht vooral uitgaat naar steeds krachtigere en snellere AI-systemen. Ook bij bedrijven die AI toepassen is de druk hoog om snel mee te gaan, zelfs wanneer nog onduidelijk is wat de investeringen daadwerkelijk opleveren.
In beide gevallen dreigt snelheid een doel op zichzelf te worden. Ontwikkelwerk en maatregelen die AI betrouwbaar en veilig moeten maken, kunnen dan al snel als vertragende factor worden gezien – en daarmee als risico voor de nationale veiligheid of concurrentiepositie.
Hierdoor dreigt een denkfout in leiderschap. Denk aan een autocoureur die denkt dat hij alleen kan winnen door het gaspedaal ingedrukt te houden en dat sturen of remmen hem de overwinning zou kosten.
Concurrentiedruk beperkt keuzes, maar maakt menselijke controle niet overbodig. Anthropic laat zien dat AI-bedrijven zelf bepalen wat ze ontwikkelen, hoeveel zelfstandigheid hun systemen krijgen, wat ze uitbrengen en wanneer veiligheidsrisico’s reden zijn om te remmen. Overheden stellen de voorwaarden voor gebruik.
China’s eigen aanpak zet eveneens vraagtekens bij die redenering. Het land geldt vaak als reden waarom westerse ontwikkelaars niet kunnen afremmen, maar combineert een hoog ontwikkelingstempo met maatregelen rond bevoegdheden van AI agents, menselijk toezicht, detectie van afwijkend gedrag en ingrijpen. Daarachter schuilen ook politieke en staatsveiligheidsbelangen. Toch geeft het aan dat China controleerbaarheid niet als concurrentienadeel ziet.
Tijdens zijn bezoek aan het Witte Huis in september zei president Xi expliciet dat AI onder menselijke controle moet blijven.
Wie is eigenlijk de winnaar?
Dat roept een fundamentele vraag op: hoe definiëren we de winnaar van de AI-race?
De capaciteit van een AI-systeem bepaalt waartoe het in staat is. De mate waarin mensen daarover controle hebben, bepaalt hoeveel van die mogelijkheden we veilig en verantwoord kunnen benutten. Als steeds krachtigere en ingenieuzere systemen herhaaldelijk door mensen gestelde grenzen overschrijden en zo gevaren opleveren, is het steeds verder uitbreiden van AI-vermogens alléén geen zinvol doel.
Veiligheid is onderdeel van techniek
In een interview met Ezra Klein in The New York Times op 23 september bracht Jensen Huang het tegenargument in dat veiligheid bij technische ontwikkeling hoort en vooruitgang niet belemmert. Klein vatte samen dat veiligheid en afstemming als uitbreiding van mogelijkheden gezien moeten worden en stelde dat onveilige technologie geen vooruitgang is. Huang onderschreef dat en verwees naar Nvidia’s investeringen in verificatie en betrouwbaarheid.
De militaire luchtvaart biedt een treffende vergelijking. Tijdens de Eerste Wereldoorlog ontwikkelde de luchtoorlogvoering zich razendsnel, terwijl de overlevingskansen voor piloten erbarmelijk waren.
Een technisch probleem uit die beginjaren klinkt nu absurd: de beste positie voor het machinegeweer vereiste dat het door de eigen propeller schoot. De Franse luchtvaartpionier Roland Garros schatte dat 7 tot 10 procent van de kogels een propellerblad raakte. Er ontstond een wedloop om de oplossing. Binnen enkele maanden ontwikkelde Anthony Fokkers team voor Duitsland een mechanisme dat het schieten onderbrak zodra een propellerblad de vuurlijn kruiste.
Geen van de strijdende landen concludeerde dat op je eigen propeller schieten permanent de prijs was van vooruitgang. Integendeel: zodra het synchronisatiemechanisme Duitsland een duidelijk voordeel in de luchtstrijd gaf, haastten de geallieerden zich om die achterstand in te halen.
Het Andon-principe voor AI
In hoogwaardige productieprocessen geldt het als verstandig kosten- en risicobeheer om fouten te stoppen voordat ze zich vermenigvuldigen. De Jidoka- en Andon-principes van Toyota bieden een model: Jidoka detecteert afwijkingen en legt zo nodig de productie stil; Andon maakt problemen zichtbaar zodat mensen kunnen ingrijpen.
Op 29 september ondertekenden Anthropic, OpenAI, Google, Meta, xAI en Nvidia in het Witte Huis het White House Accord on Super Intelligence. Daarin verbinden ze zich aan vier lagen van controle en toetsing voor geavanceerde AI. Het akkoord is vrijwillig en laat een groot deel van het toezicht bij de bedrijven zelf. Toch is het een belangrijke stap op weg naar een benadering waarin controleerbaarheid meeweegt in het bepalen van bruikbare AI-vermogens.
En hier begint het echte probleem
Controle is niet alleen een technisch vraagstuk. Politieke tegenstellingen bemoeilijken internationale informatie-uitwisseling. Anders dan bij traditionele wapenwedlopen tussen staten, brengt AI steeds krachtigere middelen binnen bereik van individuen en kleine groepen, met doelstellingen die uiteenlopen van goedaardig, via crimineel, tot terroristisch. Die decentralisatie maakt controle ingewikkeld.
Ook technisch is het een uitdaging om zeer geavanceerde AI te controleren. Denk aan het onderscheid tussen legitieme instructies en kwaadaardige opdrachten die verborgen zitten in informatie die AI agents verwerken; het ontwerpen van controlesystemen die betrouwbare signalen geven en moeilijk te omzeilen zijn; het beperken van AI bevoegdheden en het afschermen van externe systemen zonder essentiële functionaliteit te verliezen.
Mensen moeten blijven bepalen welke AI-processen zelfstandig mogen draaien en onder welke voorwaarden: welke toegang systemen krijgen, welke beslissingen ze zelf mogen nemen, wanneer ze moeten worden ingeperkt en wie ze mag stilzetten of opnieuw opstarten. Maar menselijke goedkeuring kan onmogelijk gelijke tred houden met elke afzonderlijke handeling op computersnelheid. Bovendien kunnen mensen te sterk gaan vertrouwen op AI-uitkomsten. En een menselijke noodstop-maatregel werkt alleen daar waar medewerkers deze zonder angst voor verlies van baan en inkomen kunnen inzetten, ook als achteraf blijkt dat ingrijpen niet nodig was.
Effectieve controle vraagt daarom om meerdere, elkaar aanvullende veiligheidsmaatregelen.
De mens houdt de regie
Het taalmodel dat ik gebruik, verwerkt informatie veel sneller dan ikzelf, óók bij het onderzoek voor dit artikel. Het vindt sneller bronnen, kan argumenten tegen het licht houden en helpt me mijn tekst aan te scherpen.
Daardoor verschuift de focus van mijn inzet, maar verdwijnt de limiet aan mijn eigen productiecapaciteit niet. Ik moet nog steeds informatie controleren, bepalen wat belangrijk is en de tekst zo redigeren dat mijn eigen stem erin doorklinkt. AI bepaalt niet welke vragen belangrijk zijn of waar het zwaartepunt van mijn betoog ligt. En ik ben niet van plan die verantwoordelijkheid uit handen te geven door ongecontroleerde teksten automatisch te laten publiceren.
Op grotere schaal geldt hetzelfde. AI kan menselijke mogelijkheden op sommige terreinen vergroten en tegelijk elders nieuwe knelpunten creëren. Het verandert waar menselijke inzet nodig is. Maar het neemt onze verantwoordelijkheid voor leiderschap niet weg, evenmin als onze menselijke beperkingen.
‘En de winnaar is…’
Nu AI steeds vaker wordt ingezet voor financiële transacties, softwareontwikkeling, infrastructuur en beslissingen met grote gevolgen, is de meest waardevolle AI de versie die aantoonbaar veilig binnen menselijke kaders functioneert. De winnaar van de AI-race is dus diegene die systemen ontwikkelt die zo breed en effectief mogelijk ingezet kunnen worden en tegelijkertijd het meest betrouwbaar onder onze controle blijven.
Het blijft aan ons om die grenzen vast te stellen én de bevoegdheden en middelen te behouden om ze te handhaven.
Reacties