Superintelligentie en het veiligheidsdebat: wie wil wat

Kort samengevat: Het debat over superintelligentie is niet één discussie maar meerdere. Sommigen willen een verbod totdat de veiligheid is aangetoond, sommige labs zeggen dat ze het bouwen met veiligheid als eerste prioriteit, en sommige overheden benadrukken dat overregulering innovatie kan smoren. Bijna iedereen vindt veiligheid belangrijk; ze verschillen van mening over wie beslist, hoe snel het moet en of je moet wachten.

Belangrijkste punten

• In oktober 2025 publiceerde het Future of Life Institute een verklaring die pleit voor een verbod op de ontwikkeling van superintelligentie, totdat er brede wetenschappelijke consensus is dat dit veilig en beheersbaar kan en er sterke steun van het publiek is.
• Safe Superintelligence Inc., opgericht in 2024, wil superintelligentie naar eigen zeggen veilig ontwikkelen; critici van een verbod vinden het lastig te definiëren en af te dwingen.
• Het International AI Safety Report, geleid door Yoshua Bengio, deelt risico’s in naar kwaadwillig gebruik, technische storingen en systemische risico’s.
• In de VS benadrukt het handvest van de nieuwe Super Intelligence Force dat overregulering vermeden moet worden; de veiligheidsbelofte die technologiebazen tekenden is niet bindend.

Waarom is er meer dan één debat?

“Superintelligentie” is een hypothetische AI ver voorbij menselijk vermogen. Is de term nieuw voor u, begin dan met onze uitleg over wat superintelligentie is en waarom het zo heet. Omdat zoiets nog niet bestaat, discussiëren mensen over verschillende dingen: of het gebouwd kan worden, of het gebouwd moet worden, wie de leiding moet hebben en wat er intussen moet gebeuren. Wie die vragen door elkaar haalt, vindt het debat verwarrend.

Standpunt 1: verbieden tot het bewezen veilig is

De duidelijkste vorm van dit standpunt is de superintelligentieverklaring die het Future of Life Institute in oktober 2025 organiseerde. De eis luidt volgens Wikipedia: “A prohibition on the development of superintelligence, not lifted before there is broad scientific consensus that it will be done safely and controllably, and strong public buy-in.” Vrij vertaald: een verbod op de ontwikkeling van superintelligentie dat pas wordt opgeheven als er brede wetenschappelijke consensus is dat het veilig en beheersbaar gebeurt, en er sterke steun van het publiek is.

Tot de genoemde ondertekenaars behoren de AI-onderzoekers Yoshua Bengio en Geoffrey Hinton, Apple-medeoprichter Steve Wozniak, Virgin-oprichter Richard Branson, prins Harry, Steve Bannon en will.i.am. Volgens Wikipedia heeft geen enkele overheid een expliciet verbod op superintelligentie ingevoerd, al is het idee besproken in de EU en bij de VN.

Critici stellen dat een verbod lastig te definiëren en af te dwingen is, omdat er geen precieze grens is tussen geavanceerde AI en superintelligentie. Ze waarschuwen ook dat beperkingen de wetenschappelijke vooruitgang kunnen vertragen en onderzoek uit het zicht kunnen duwen.

Standpunt 2: bouwen, maar met veiligheid voorop

Een andere groep zegt dat je het zorgvuldig moet bouwen. Safe Superintelligence Inc. (SSI) werd op 19 juni 2024 opgericht door Ilya Sutskever, Daniel Gross en Daniel Levy; volgens Wikipedia is de verklaarde missie om een superintelligentie “veilig te ontwikkelen”. Het bedrijf noemt zichzelf “the world's first straight-shot SSI lab”, zonder productcycli en kortetermijn-commerciële druk. Volgens Wikipedia haalde het in september 2024 een miljard dollar op en werd het in maart 2025 gewaardeerd op 30 miljard dollar.

De spanning is duidelijk: dit kamp wil precies bouwen wat het eerste kamp wil verbieden, en stelt dat veilige ontwikkeling beter is dan het veld aan anderen overlaten.

Standpunt 3: snel vooruit en zware regulering vermijden

Een derde zienswijze stelt innovatie en concurrentiekracht voorop. TechCrunch meldde op 4 oktober 2026 dat president Trump een “Super Intelligence Force” heeft opgericht onder leiding van Jay Clayton, directeur van de nationale inlichtingendiensten, met 120 dagen om verslag uit te brengen over risico’s en kansen. Het handvest benadrukt het voorkomen van “overregulation and regulatory capture that would stifle innovation”, dus overregulering en regelgevingskaping die innovatie zouden smoren. TechCrunch noemde ook dat technologiebazen in het Witte Huis een niet-bindende veiligheidsbelofte tekenden, waarvan de details vaag bleven. Het hele verhaal leest u in ons artikel over wat het presidentieel besluit zegt.

Dit is de verklaarde aanpak van een overheid, geen bewering dat veiligheid onbelangrijk is. Het meningsverschil gaat over de vraag of bindende regels of vrijwillige toezeggingen het juiste middel zijn.

Standpunt 4: eerst bewijs, dan beslissen

Een vierde aanpak richt zich op het meten van risico’s voordat een beleid wordt gekozen. Het International AI Safety Report wordt geleid door Yoshua Bengio en werd door 30 landen besteld op de AI Safety Summit van 2023 in Bletchley Park. De tweede volledige editie verscheen op 3 februari 2026. Het deelt risico’s in drie routes in: kwaadwillig gebruik (zoals oplichting en cyberaanvallen), technische storingen (systemen die haperen of onvoorspelbaar gedrag vertonen en onveilig gedrag tijdens tests kunnen verbergen) en systemische risico’s (zoals concentratie bij weinig aanbieders en verstoring van de arbeidsmarkt).

Het rapport beschrijft risico’s; het schrijft op zichzelf geen verbod of build-it-safely-strategie voor.

Geld en waarschuwingen sluiten elkaar niet uit

Enkele van de luidste waarschuwingen komen van mensen met een groot financieel belang. Startup Fortune meldde op 4 oktober 2026 dat Masayoshi Son van SoftBank op een forum in Kyoto zei dat superintelligentie “could turn super dangerous in wrong hands”, dus in verkeerde handen zeer gevaarlijk kan worden. Hetzelfde artikel vermeldt dat hij in 2024 tegen CNN zei dat AI zonder regulering “super dangerous” kan zijn, dat hij zijn voorspelling voor superintelligentie heeft vervroegd tot binnen twee jaar en dat SoftBank meer dan 60 miljard dollar aan OpenAI heeft toegezegd. Dit zijn gemelde uitspraken en de voorspelling van één persoon, geen vaststaande feiten. Ze laten zien dat zorg en zware investeringen samen kunnen gaan.

Waarover is men het eens en waarover niet?

Breed gedeeld: veiligheid is belangrijk, en de huidige systemen brengen al echte risico’s met zich mee, zoals misbruik, onbetrouwbaar gedrag en machtsconcentratie.

Omstreden: of superintelligentie dichtbij is (de voorspellingen lopen sterk uiteen), of een verbod mogelijk of zelfs wenselijk is, of vrijwillige beloften volstaan en wie beslist: wetenschappers, bedrijven, overheden of het publiek.

Wat betekent dit voor een bedrijf?

U hoeft geen kant te kiezen om verstandig te handelen:

1. Behandel tijdlijnen als meningen. Vraag wie ze uit en wat diegene ermee wint.
2. Volg de regelgeving, niet alleen de technologie. Regels over AI-agents, meldplicht en consumentenbescherming veranderen snel.
3. Houd eigen controles. Beperk toegang, log acties en houd een persoon verantwoordelijk voor AI-uitkomsten.
4. Vraag leveranciers welke waarborgen ze hanteren en hoe ze testen. Vrijwillige beloften zijn zo sterk als de praktijk erachter.

De korte versie

Er is niet één superintelligentiedebat. Er zijn oproepen om het te verbieden tot het bewezen veilig is, labs die zeggen het veilig te bouwen, overheden die overregulering vrezen en onderzoekers die risico’s meten. Iedereen zegt dat veiligheid telt; ze verschillen over wie beslist en hoe snel het moet. Voor bedrijven is het praktische antwoord bij elk standpunt hetzelfde: houd de controle over de AI die u gebruikt.

Gerelateerde inzichten

• Wat is superintelligentie en waarom heet het zo?
• Trumps Super Intelligence Force: wat het presidentieel besluit zegt
• Gemini 4 Argon: zo leest u de release van een frontiermodel

Bronnen

• Wikipedia, Superintelligence ban, oktober 2025
• Wikipedia, Safe Superintelligence Inc.
• Wikipedia, International AI Safety Report
• TechCrunch, Trump unveils his new Super Intelligence Force, 4 oktober 2026
• Startup Fortune, Masayoshi Son warns superintelligence could turn super dangerous in wrong hands, 4 oktober 2026