Według Amona firmy AI chcą modeli 100 mld parametrów na smartfonach do 2028 r.

W relacji opublikowanej 16 października 2026 r. „The Next Web” podał, że Cristiano Amon, dyrektor generalny Qualcomm, mówił o nienazwanych firmach AI, które chciałyby do 2028 r. uruchamiać na smartfonach modele mające co najmniej 100 miliardów parametrów. To cel przypisany tym firmom przez Amona, a nie opis gotowego telefonu.

Jaki cel na 2028 r. opisał Cristiano Amon?

Według Amona przedstawiciele firm z czołówki branży AI przekazali Qualcomm, że potrzebują telefonu zdolnego uruchomić model o wielkości co najmniej 100 miliardów parametrów. Amon opisał oczekiwany tryb pracy jako działanie „mniej więcej przez cały czas”. To określenie dotyczy pracy modelu; samo w sobie nie oznacza, że telefon musiałby być stale podłączony do ładowarki.

Amon wskazał też, dlaczego część zadań AI miałaby działać bezpośrednio na urządzeniu: telefon ma osobisty kontekst użytkownika, dane z czujników i aplikacje. Inne zadania, według niego, pozostaną w chmurze.

Ile pamięci zajęłyby same wagi modelu?

Parametry to wartości, na których model opiera swoje obliczenia. Dla modelu o 100 miliardach parametrów idealizowane obliczenie samych wag daje 200 GB przy 16 bitach na parametr albo 50 GB przy 4 bitach. Są to dziesiętne gigabajty. Wzór i omówienie ograniczeń takiego rachunku opisał Aaron Mekonnen w tekście o kwantyzacji modeli.

To wartości dotyczące wag, nie całkowitej pamięci potrzebnej do uruchomienia modelu. Rachunek pomija między innymi metadane kwantyzacji, tensory o wyższej precyzji, aktywacje, pamięć przydzielaną przez środowisko uruchomieniowe oraz pamięć podręczną klucz-wartość. Dlatego same liczby nie określają całkowitego zapotrzebowania smartfona na RAM.