Dreamforce 2026 stał się sceną otwartego sporu o to, jak zabezpieczać najbardziej zaawansowane systemy AI. Dario Amodei zaproponował wolniejsze i możliwe do sprawdzenia tempo rozwoju z udziałem niezależnych ewaluatorów, Sam Altman opowiedział się za bezpieczeństwem i monitorowaniem wyprzedzającymi możliwości modeli, a Jensen Huang uznał testowanie produktów i odpowiedzialność firm za wystarczający praktyczny hamulec. Marc Benioff dołożył do tego postulat rozliczania przedsiębiorstw w ramach istniejących, ewoluujących przepisów.
Centralna debata odbyła się 15 września podczas Dreamforce 2026 w San Francisco. Trzydniowa konferencja Salesforce trwa od 15 do 17 września w Moscone Center, a jej najważniejsze wystąpienia są dostępne także w bezpłatnej formule Salesforce+.
Trzy drogi do bezpieczniejszej AI
Różnica między uczestnikami nie sprowadzała się do tego, czy bezpieczeństwo jest ważne. Wszyscy mówili o potrzebie ograniczania ryzyka, ale wskazali inne miejsce, w którym należy postawić kontrolę: wspólny nadzór nad laboratoriami, wewnętrzne zobowiązania firm albo techniczne testy przed premierą.
| Osoba | Główny mechanizm | Rola regulacji lub koordynacji | Opisany próg operacyjny |
| Dario Amodei | Niezależni ewaluatorzy i kontrolowanie tempa rozwoju | Koordynacja laboratoriów w państwach demokratycznych, a następnie globalna | Stały dostęp ewaluatorów do odpowiednich procesów, narzędzi i uprawnień |
| Sam Altman | Bezpieczeństwo, dostosowanie modeli i monitorowanie przed wzrostem możliwości | Zobowiązania nieuzależnione od zachowania konkurencji | Zgłaszanie incydentów, uczenie się na błędach oraz gotowość do zwolnienia lub zatrzymania prac, gdy bezpieczeństwo nie nadąża |
| Jensen Huang | Testy inżynieryjne i dyscyplina wydawnicza | Odpowiedzialność firm i siły rynkowe zamiast nowych regulacji AI | Nie wypuszczać produktu, jeśli firma nie jest pewna jego działania, możliwości lub bezpieczeństwa |
| Marc Benioff | Odpowiedzialność przedsiębiorstw za decyzje dotyczące tempa | Istniejące przepisy mogą ewoluować wraz z rozwojem modeli | Firmy mają odpowiadać za decyzje o przyspieszeniu lub spowolnieniu prac |
Co zaproponował Dario Amodei
Dario Amodei opublikował 12 września propozycję, którą przedstawił jako sposób na dopasowanie tempa prac nad możliwościami modeli do tempa rozwoju bezpieczeństwa, dostosowania i ewaluacji. „Pacing” nie oznacza w tym ujęciu całkowitego zatrzymania treningu modeli ani postępu technicznego.
Jego plan ma trzy poziomy:
- Osadzeni niezależni ewaluatorzy. Mieliby otrzymać stały, zbliżony do pracowniczego dostęp do odpowiednich biur, narzędzi, uprawnień i procesów firmy rozwijającej zaawansowane modele. Ich zadaniem byłoby sprawdzanie praktyk bezpieczeństwa, zgłaszanie incydentów oraz analizowanie nie tylko gotowych modeli, lecz także potoków treningowych. Amodei przewidział ograniczone wyjątki dotyczące bezpieczeństwa, tajemnicy prawnej, wrażliwych informacji handlowych i poufności stron trzecich.
- Koordynacja laboratoriów w państwach demokratycznych. Firmy rozwijające najbardziej zaawansowane modele miałyby uzgodnić wspólne standardy bezpieczeństwa i ograniczenia dla niekontrolowanego zwiększania możliwości systemów.
- Koordynacja globalna. Trzeci etap obejmuje także państwa autorytarne, w tym Chiny. Najtrudniejszym elementem byłoby sprawdzanie, czy uczestnicy rzeczywiście przestrzegają wspólnych zasad.
To propozycja mechanizmu nadzoru, a nie opis działającego już systemu. Anthropic zadeklarował podejście oparte na osadzonych ewaluatorach, lecz publicznie opisany plan nie jest równoznaczny z zakończonymi audytami.
Sam Altman: bezpieczeństwo nie może zależeć od rywali
Sam Altman poparł utrzymywanie bezpieczeństwa, dostosowania modeli i monitorowania przed wzrostem ich możliwości. Opowiedział się również za kulturą przejrzystego zgłaszania incydentów i wyciągania z nich wniosków, częściowo wzorowaną na praktykach stosowanych w lotnictwie.
W jego ujęciu firmy powinny być gotowe zwolnić lub zatrzymać prace, jeśli nie potrafią utrzymać przewagi procesów bezpieczeństwa nad rozwojem możliwości modeli. Altman wskazał też dwa szczególne zagrożenia: wypadki prowadzące do utraty kontroli nad systemami oraz nadmierną koncentrację władzy.
Istotny jest jeszcze jeden szczegół: zobowiązania dotyczące bezpieczeństwa nie powinny być uzależnione od tego, czy konkurencyjna firma albo inne państwo zachowa się odpowiedzialnie. To podejście próbuje połączyć koordynację z jednostronną odpowiedzialnością — firma ma stosować własne zasady także wtedy, gdy rywale nie dają podobnej gwarancji.
Dlaczego Jensen Huang odrzuca nowe regulacje
Jensen Huang przesunął punkt ciężkości z prawa na inżynierię. Jego zdaniem bezpieczeństwo AI należy traktować przede wszystkim jako problem techniczny: firma ma testować produkt, oceniać jego działanie i nie wprowadzać go na rynek, jeśli nie potrafi ocenić jego funkcjonalności, możliwości i bezpieczeństwa.
Huang uznał, że szybkość innowacji i bezpieczne produkty nie muszą się wzajemnie wykluczać. Jednocześnie odrzucił potrzebę nowych ustaw i regulacji dotyczących AI, wskazując na decyzje przedsiębiorstw oraz presję rynku jako główne narzędzia odpowiedzialności.
To najbardziej wyraźna różnica wobec propozycji Amodeiego. W modelu Huang bezpieczeństwo jest przede wszystkim bramką przed wydaniem produktu. W modelu Amodeiego kontrola ma wejść głębiej — do procesów treningowych i codziennego działania laboratoriów — oraz wymagać współpracy między firmami i państwami.
Marc Benioff stawia na odpowiedzialność firm
Marc Benioff opisał sytuację jako płynną: firmy i rządy dopiero uczą się, jakie możliwości mają nowe modele. Jego stanowisko łączy istniejące przepisy z możliwością ich dalszego rozwoju.
Benioff podkreślił, że przedsiębiorstwa wiedzą o swoich systemach więcej niż zewnętrzni obserwatorzy, dlatego powinny ujawniać ryzyka i odpowiadać za decyzje o przyspieszaniu albo zwalnianiu prac. W tej wersji odpowiedzialność nie kończy się na samym teście technicznym, ale obejmuje także decyzję biznesową o wdrożeniu modelu.
Dreamforce nie przyniósł wiążącego porozumienia między firmami, nowego prawa ani wspólnej decyzji o tempie rozwoju frontier AI. Przyniósł za to czytelny podział między trzema sposobami działania: koordynacją i zewnętrznym nadzorem, bezwarunkowymi zobowiązaniami firm oraz testowaniem produktów przed premierą.
Koa, model CRM ogłoszony podczas debaty
Temu sporowi towarzyszyło ogłoszenie Salesforce Koa — modelu rozumowania przeznaczonego do zadań związanych z zarządzaniem relacjami z klientami. Salesforce podaje, że Koa zbudowano na bazie NVIDIA Nemotron, a do treningu wykorzystano syntetyczne scenariusze CRM, bez danych klientów.
Salesforce podaje również wyniki własnych testów. W benchmarku CRM Bench Koa miał popełniać trzy razy mniej błędów przy działaniach CRM niż wyniki wiodących modeli. Na stronie produktu firma wymienia ponadto 11% większą precyzję działań, 2,1 raza większą niezawodność i 15% lepszy wynik w zadaniach wymagających długiego kontekstu w porównaniu z nienazwanymi domyślnymi modelami ogólnej inteligencji.
Te liczby dotyczą zadań CRM i testów opisanych przez Salesforce — nie są ogólną oceną możliwości modelu we wszystkich zastosowaniach. Koa działał w wybranych programach pilotażowych, a Salesforce przewidywał jego ogólną dostępność w regionach USA zimą 2026 roku.
Właśnie ten kontrast nadał wydarzeniu dodatkową warstwę: na tej samej scenie, na której liderzy spierali się o kontrolę nad tempem rozwoju AI, Salesforce prezentował konkretny model przeznaczony do wdrażania w pracy przedsiębiorstw.
