Kunnen we superintelligente AI nog stoppen? De race om de toekomst lijkt onstuitbaar

Meer dan duizend wetenschappers, beleidsmakers en prominenten – onder wie Nobelprijswinnaars, techpioniers en ondernemers – roepen op om de ontwikkeling van kunstmatige superintelligentie tijdelijk stil te leggen. De oproep is bedoeld als waarschuwing: de technologie ontwikkelt zich sneller dan ons vermogen om haar te begrijpen en te beheersen. Maar is een pauze in deze wereldwijde wedloop nog realistisch?

De oproep tot bezinning

De initiatiefnemers van het manifest benadrukken de risico’s van ongecontroleerde AI-ontwikkeling. Niet alleen op het gebied van privacy, werkgelegenheid of desinformatie, maar vooral vanwege de mogelijkheid dat AI op termijn slimmer en autonomer wordt dan de mens zelf.

Bedrijven en overheden krijgen het dringende advies om eerst te onderzoeken welke ethische, maatschappelijke en veiligheidsrisico’s superintelligentie met zich meebrengt — voordat de technologie ons ontglipt.

Toch is het de vraag of zo’n pauze meer is dan een symbolisch gebaar.

Een geopolitieke en economische wedloop

De ontwikkeling van AI is uitgegroeid tot een mondiale strijd om macht, kennis en kapitaal. Overheden investeren miljarden, technologiebedrijven wedijveren om de grootste doorbraken, en niemand wil achterblijven.

Er heerst een gevoel van onvermijdelijkheid: als de ene partij stopt, neemt een ander het over. De vergelijking met de nucleaire wedloop van de vorige eeuw is snel gemaakt. AI is de nieuwe strategische technologie die niet alleen economische, maar ook geopolitieke belangen vertegenwoordigt.

Veel woorden, weinig daden

Hoewel de oproep tot een “pauzeknop” breed gesteund wordt, ontbreekt het vaak aan concrete plannen. Er wordt vooral gesproken over onderzoek, reflectie en verantwoordelijkheid, maar zelden over praktische maatregelen of toetsbare doelen.

Wat precies bedoeld wordt met ‘superintelligentie’ blijft bovendien onduidelijk. Zonder een gedeelde definitie is het moeilijk te bepalen waar de grens ligt – of wanneer die overschreden wordt.

De illusie van controle

Eerdere oproepen tot vertraging in de technologische vooruitgang bleken vergeefs. Bedrijven die zeggen te pauzeren, gaan achter de schermen gewoon verder. De economische en politieke prikkels zijn te groot om echt stil te staan.

Zelfs de meest idealistische stemmen erkennen dat de AI-wedloop inmiddels een eigen momentum heeft. De markt is hypercompetitief, de belofte van winst enorm, en de druk om te innoveren voortdurend aanwezig.

Een menselijke verantwoordelijkheid

De conclusie is ontnuchterend: een wereldwijde stop op de ontwikkeling van superintelligente AI lijkt onhaalbaar. De technologie dendert door – gedreven door ambitie, angst en nieuwsgierigheid.

Toch ligt de verantwoordelijkheid niet alleen bij machines of markten, maar bij mensen. Wij bepalen nog altijd hoe AI wordt ingezet, waarvoor ze wordt ontwikkeld en welke grenzen we willen trekken.

De vraag is dus niet of we superintelligente AI kunnen stoppen, maar of we haar kunnen begrijpen en sturen voordat ze ons tempo definitief voorbijstreeft.

‍

// Over de auteur

Job van den Berg

Mede-oprichter, AI Keynote Spreker & Techondernemer

Tech-ondernemer (1989) met een achtergrond als socioloog (BSc Sociologie en MSc Research Master Sociology and Social Research & Statistics, Universiteit Utrecht) en een van de meest gevraagde keynote sprekers over AI en data in Nederland. Als mede-oprichter van Ai.nl, The Automation Group en Proxies leidt hij engineers die agentic AI van prototype naar productie brengen binnen enterprises. Op het podium vertaalt Job die hands-on praktijk naar concrete strategieën. Eerder was Job Chief Data bij o.a. DPG Media en Kantar. Hij is co-auteur van 5 boeken over AI waaronder 'AI Agents' en 'Handboek AI Strategie' en een veelgevraagd expert in de landelijke media.

LinkedIn