Le débat du 15 septembre 2026 à Dreamforce 2026 n’a produit ni accord contraignant ni nouvelle loi, mais il a mis face à face trois méthodes pour rendre l’IA avancée plus sûre. Dario Amodei, dirigeant d’Anthropic, défend un ralentissement coordonné et une supervision indépendante ; Sam Altman, dirigeant d’OpenAI, veut que la sécurité et le signalement des incidents restent en avance sur les capacités ; Jensen Huang, dirigeant de NVIDIA, mise sur les tests d’ingénierie et la responsabilité des entreprises avant la mise sur le marché. Marc Benioff, dirigeant de Salesforce et hôte de l’événement, insiste pour sa part sur la responsabilité des entreprises et l’évolution des règles existantes.
Trois façons de sécuriser l’IA, face à face
| Acteur | Mécanisme principal | Coordination ou réglementation | Barrière opérationnelle décrite |
| Dario Amodei | Ralentir la progression des capacités pour laisser la sécurité suivre | Évaluateurs tiers intégrés, coordination entre laboratoires de pays démocratiques, puis coordination mondiale | Examiner les pratiques de sécurité et les chaînes d’entraînement en continu |
| Sam Altman | Maintenir la sécurité, l’alignement et la surveillance devant les capacités | Engagements de sécurité qui ne dépendent pas du comportement des concurrents | Signaler les incidents, en tirer des enseignements et ralentir ou s’arrêter si la sécurité ne suit plus |
| Jensen Huang | Traiter la sécurité comme un problème d’ingénierie | Pas de nouvelles lois ou réglementations spécifiques à l’IA selon sa position | Ne pas lancer un produit dont la fonctionnalité, les capacités ou la sécurité ne sont pas suffisamment maîtrisées |
| Marc Benioff | Faire répondre les entreprises de leurs décisions | Les règles existantes s’appliquent et peuvent évoluer | Assumer publiquement les choix d’accélérer ou de ralentir |
Ce que propose Dario Amodei
Dario Amodei a publié le 12 septembre 2026 un projet en trois étapes. Il demande d’abord que chaque laboratoire d’IA avancée donne à des évaluateurs tiers un accès continu, comparable à celui d’employés, à ses bureaux, outils, autorisations et processus concernés. Ces évaluateurs pourraient examiner les pratiques de sécurité, signaler des incidents et analyser les chaînes d’entraînement, avec des restrictions pour les informations sensibles sur le plan de la sécurité, du droit, du commerce ou de la confidentialité.
La deuxième étape serait une coordination entre les entreprises de pays démocratiques afin de définir des standards communs et des limites au développement incontrôlé des capacités. La troisième viserait une coordination mondiale, y compris avec des gouvernements autoritaires comme la Chine. Amodei reconnaît que la vérification et les incitations géopolitiques rendent cette étape particulièrement difficile.
Le terme « ralentissement » ne signifie pas, dans sa proposition, l’arrêt de l’entraînement des modèles ni celui du progrès technique. Il s’agit de faire progresser l’évaluation, l’alignement, l’interprétabilité et la sécurité opérationnelle au même rythme que les capacités.
Sam Altman veut des engagements qui ne dépendent pas des concurrents
Sam Altman soutient un développement où la sécurité, l’alignement et la surveillance restent en avance sur les capacités des modèles. Il propose aussi une culture de signalement et d’apprentissage inspirée de l’aviation : les incidents seraient documentés afin que l’industrie puisse en tirer des leçons.
Son approche accepte que de nouveaux systèmes puissent connaître des accidents, mais refuse de conditionner les engagements de sécurité au comportement d’une autre entreprise ou d’un autre pays. Altman cite notamment deux risques : les accidents liés à une perte de contrôle et la concentration excessive du pouvoir entre quelques acteurs.
Cette position se situe entre la coordination institutionnelle défendue par Amodei et le contrôle interne privilégié par Huang. Elle conserve l’idée d’un ralentissement possible, mais en fait une décision liée à la capacité réelle des entreprises à maintenir leurs garanties de sécurité.
Pourquoi Jensen Huang rejette de nouvelles lois
Jensen Huang considère que la sécurité de l’IA relève d’abord de l’ingénierie. Pour lui, le point de contrôle se trouve avant la commercialisation : une entreprise ne devrait pas lancer un produit si elle n’a pas confiance dans son fonctionnement, ses capacités ou sa sécurité.
Il rejette les nouvelles lois et réglementations spécifiques à l’IA, et soutient qu’une entreprise peut poursuivre rapidement ses travaux tout en interrompant un lancement lorsqu’un produit devient dangereux ou échappe à son contrôle. Dans cette logique, les tests techniques, la validation et la responsabilité de l’entreprise remplacent une nouvelle couche de règles sectorielles.
La responsabilité que Marc Benioff met sur les entreprises
Marc Benioff décrit l’IA comme un secteur en évolution rapide, où les entreprises et les pouvoirs publics découvrent encore les capacités des modèles. Il estime que les règles existantes s’appliquent déjà et qu’elles peuvent évoluer à mesure que les usages deviennent plus clairs.
Son point central est la responsabilité : les entreprises connaissent mieux que les acteurs extérieurs les risques propres à leurs modèles et doivent donc expliquer leurs décisions. Accélérer ou ralentir reste un choix d’entreprise, mais ce choix doit avoir des conséquences pour ceux qui le prennent.
Salesforce Koa, l’autre annonce de Dreamforce
Salesforce a présenté Salesforce Koa, un modèle de raisonnement consacré aux tâches de gestion de la relation client et construit sur NVIDIA Nemotron. Salesforce indique que son entraînement repose sur des scénarios synthétiques issus de situations CRM et qu’aucune donnée client n’a été utilisée pour l’entraînement.
Dans le CRM Bench de Salesforce, Koa aurait obtenu trois fois moins d’erreurs sur les actions CRM que les performances de modèles de premier plan. La page officielle du produit mentionne également une précision des actions supérieure de 11 %, une fiabilité multipliée par 2,1 et une performance améliorée de 15 % sur les longs contextes par rapport à des modèles généralistes par défaut non nommés. Ces résultats concernent les tests CRM annoncés par Salesforce, pas une mesure générale de l’intelligence artificielle.
Salesforce indique que Koa est utilisé par certains clients pilotes et prévoit une disponibilité générale dans des régions américaines pendant l’hiver 2026. L’annonce rattache donc le modèle à un domaine précis : l’exécution et le raisonnement sur des tâches CRM, plutôt qu’à une promesse générale sur toutes les capacités de l’IA.
Ce que Dreamforce a concrètement produit
Dreamforce 2026 se tient du 15 au 17 septembre 2026 au Moscone Center, à San Francisco, avec une expérience virtuelle gratuite proposée par Salesforce+. La discussion sur la sécurité a eu lieu le premier jour, le 15 septembre.
L’événement a surtout rendu visibles trois doctrines : la supervision coordonnée d’Amodei, les engagements de sécurité et le signalement des incidents défendus par Altman, et la validation technique des produits privilégiée par Huang. Ces positions portent sur le même risque général, mais elles ne placent pas la responsabilité au même endroit : auprès d’évaluateurs extérieurs et d’accords entre États, dans des engagements permanents des laboratoires, ou dans les tests et les décisions de chaque entreprise.
