Op de eerste dag van Dreamforce 2026, op 15 september in San Francisco, kwamen drie sterk verschillende antwoorden op dezelfde vraag naar voren: hoe maak je frontier-AI — de krachtigste en meest geavanceerde modellen — veiliger? Dario Amodei van Anthropic wil gecoördineerde controle en een tempo waarin veiligheidswerk kan bijbenen. Sam Altman van OpenAI pleit voor veiligheidsafspraken die niet afhangen van wat concurrenten doen. Jensen Huang van NVIDIA legt de nadruk op techniek, testen en verantwoord uitbrengen, en wijst nieuwe AI-specifieke wetten af.
Het driedaagse evenement loopt van 15 tot en met 17 september in het Moscone Center. Het centrale gesprek leverde geen bindende overeenkomst of nieuwe wet op, maar maakte wel duidelijk waar de breuklijnen liggen.
Drie veiligheidsmodellen naast elkaar
De verschillen zitten niet alleen in de vraag óf AI veiliger moet worden. De leiders verschillen vooral over wie toezicht houdt, wanneer een model klaar is voor gebruik en hoeveel coördinatie daarvoor nodig is.
| Actor | Hoofdmechanisme | Rol van regelgeving of coördinatie | Beschreven operationele grens |
| Dario Amodei / Anthropic | Tempo van capaciteitsgroei afstemmen op veiligheidswerk | Ingebedde externe evaluatoren, samenwerking tussen frontierlabs in democratische landen en mondiale coördinatie | Veiligheidspraktijken, trainingsprocessen en incidenten doorlopend laten beoordelen |
| Sam Altman / OpenAI | Veiligheid, afstemming en monitoring vóór capaciteitsgroei houden | Onafhankelijke evaluatie, transparante incidentmelding en afspraken die niet afhankelijk zijn van rivalen | Vertragen of stoppen wanneer veiligheid niet vóór de capaciteitsgroei blijft |
| Jensen Huang / NVIDIA | Veiligheid behandelen als technisch ontwikkel- en testprobleem | Geen nieuwe AI-specifieke wetten; verantwoordelijkheid bij bedrijven en markt | Een product niet uitbrengen als functionaliteit, mogelijkheden of veiligheid onvoldoende zijn gevalideerd |
| Marc Benioff / Salesforce | Bedrijven verantwoordelijk houden voor tempo- en releasebeslissingen | Bestaande regels toepassen en laten evolueren | Bedrijven moeten risico’s bekendmaken en rekenschap afleggen voor hun keuzes |
Wat Dario Amodei voorstelde
Amodei’s aanpak begint bij het vertragen van de groei van AI-capaciteiten — niet bij het stilleggen van modeltraining of technische vooruitgang. Zijn voorstel is om evaluatie, afstemming en operationele veiligheid voldoende tijd te geven om mee te groeien.
Daarvoor beschrijft hij drie stappen:
- Ingebedde externe evaluatoren. Zij zouden doorlopend, met toegang die vergelijkbaar is met die van werknemers, relevante kantoren, hulpmiddelen, bevoegdheden en veiligheidsprocessen kunnen onderzoeken. Anthropic zegt zich aan zo’n aanpak te willen committeren. De evaluatoren zouden ook trainingsprocessen kunnen bekijken, incidenten melden en belangrijke bevindingen publiceren. Uitzonderingen zijn voorzien voor onder meer veiligheidsgevoelige, juridisch beschermde en vertrouwelijke informatie.
- Coördinatie tussen frontierlabs in democratische landen. Bedrijven zouden gezamenlijke veiligheidsnormen en grenzen aan ongecontroleerde capaciteitsgroei kunnen ontwikkelen.
- Mondiale coördinatie. Uiteindelijk zouden ook democratische en autoritaire regeringen moeten proberen afspraken te maken. Amodei noemt controle op de naleving en geopolitieke belangen daarbij als grote obstakels.
De kern van zijn voorstel is dus geen algemene stopknop, maar een controlemechanisme dat naast de modelontwikkeling komt te staan. De verantwoordelijkheid verschuift daarmee deels van het individuele bedrijf naar externe beoordeling en afspraken tussen meerdere partijen.
Wat Sam Altman toevoegde
Altman steunde tijdens Dreamforce een veiligheidsgerichte aanpak waarin veiligheid, afstemming en monitoring vóór de groei van modelcapaciteiten moeten blijven. Als dat niet lukt, moeten bedrijven volgens hem bereid zijn hun ontwikkeling te vertragen of stil te zetten.
Zijn praktische voorstel draait ook om een cultuur van incidentmelding en leren. Altman vergeleek die gedachte met de manier waarop de luchtvaart met ongevallen en bijna-ongevallen omgaat. Hij waarschuwde bovendien voor ongelukken waarbij AI-systemen de controle verliezen en voor een te grote machtsconcentratie.
Daarmee neemt Altman een positie in tussen Amodei’s gecoördineerde toezicht en Huangs nadruk op producttests. Hij steunt onafhankelijke evaluatie en samenwerking, maar wil veiligheidsverplichtingen niet afhankelijk maken van de vraag of rivaliserende bedrijven of landen zich verantwoord gedragen.
Waarom Jensen Huang nieuwe wetten afwijst
Huang beschreef AI-veiligheid als in de eerste plaats een engineeringprobleem. Zijn grens is concreet: bedrijven moeten producten niet uitbrengen wanneer zij onvoldoende vertrouwen hebben in de functionaliteit, mogelijkheden of veiligheid ervan.
Volgens Huang zijn snelheid en veilige producten geen tegenstelling. Bedrijven kunnen volgens hem snel innoveren en tegelijk pauzeren wanneer tests aantonen dat een product niet onder controle is of onveilig blijkt. Hij zei ook dat er geen nieuwe wetten of regels nodig zijn voor dit doel.
Dat model legt de beslissende verantwoordelijkheid bij de ontwikkelaar. Externe wetgeving of een gezamenlijk internationaal tempo komt er niet aan te pas; testen vóór de release en het oordeel van het bedrijf vormen de voornaamste veiligheidsgrens.
Benioff legt de verantwoordelijkheid bij bedrijven
Marc Benioff plaatste zich niet volledig aan een van beide polen. De Salesforce-topman zei dat bestaande regels al van toepassing zijn en kunnen evolueren naarmate duidelijker wordt wat modellen kunnen. Tegelijk benadrukte hij dat bedrijven zelf het meeste weten over hun systemen en daarom risico’s moeten openbaren en verantwoording moeten afleggen.
Zijn uitgangspunt is praktisch: een bedrijf mag volgens hem zelf beslissen of het moet vertragen of versnellen, maar draagt daarna ook verantwoordelijkheid voor die keuze. Dat maakt bedrijfsaccountability de verbindende factor tussen technische zelfcontrole en toekomstige regelgeving.
Koa verbindt de veiligheidsdiscussie met een productaankondiging
Tijdens dezelfde Dreamforce-presentatie kondigden Salesforce en NVIDIA Salesforce Koa aan. Koa is een CRM-redeneermodel van Salesforce, gebouwd op NVIDIA Nemotron. Salesforce zegt dat het model is getraind met synthetische scenario’s op basis van CRM-ervaring en zonder klantgegevens.
De productaankondiging illustreert waarom de veiligheidsdiscussie zo concreet is: de vraag gaat niet alleen over abstracte frontier-modellen, maar ook over systemen die zakelijke handelingen kunnen uitvoeren. Salesforce meldt dat Koa in CRM Bench bij CRM-acties drie keer minder fouten maakte dan de prestaties van toonaangevende modellen. Op de eigen productpagina noemt Salesforce daarnaast 11% meer actienauwkeurigheid, 2,1 keer hogere betrouwbaarheid en 15% betere prestaties bij lange contexten ten opzichte van niet nader genoemde standaardmodellen voor algemene intelligentie.
Die cijfers hebben betrekking op de door Salesforce beschreven CRM-tests. Ze vormen geen algemene maatstaf voor AI-veiligheid of algemene modelintelligentie.
Wat Dreamforce daadwerkelijk veranderde
Dreamforce 2026 bracht de drie veiligheidsmodellen publiekelijk samen: externe en internationale coördinatie bij Amodei, onvoorwaardelijke veiligheidsafspraken en incidentleren bij Altman, en technische validatie met bedrijfsverantwoordelijkheid bij Huang. Benioff koppelde die discussie aan bestaande regels en de plicht van bedrijven om rekenschap af te leggen.
De conferentie eindigt op 17 september. De veiligheidsdiscussie van 15 september blijft daarmee vooral een botsing tussen beleidsmodellen, terwijl Salesforce op hetzelfde evenement met Koa een concreet CRM-product presenteerde.
