Am 16. Oktober 2026 berichtete The Next Web, Qualcomm-Chef Cristiano Amon habe gesagt, ungenannte KI-Unternehmen wollten bis 2028 Smartphones, auf denen Modelle mit mindestens 100 Milliarden Parametern laufen können. Amon beschrieb den gewünschten Betrieb als nahezu dauerhaft. The Next Web berichtete über seine Äußerungen.
Warum KI teils direkt auf dem Smartphone laufen soll
Amon sieht Aufgaben sowohl in der Cloud als auch auf dem Smartphone. Für die Verarbeitung direkt auf dem Gerät nannte er den persönlichen Kontext, Sensordaten und Apps als Gründe.
Was 100 Milliarden Parameter für den Speicher bedeuten
Parameter sind die trainierten Zahlenwerte eines KI-Modells. Für ein dichtes Modell mit 100 Milliarden Parametern ergeben sich bei idealisierter Rechnung 200 GB für die Gewichte bei 16 Bit pro Parameter und 50 GB bei 4 Bit. Die Werte sind dezimal angegeben: 1 GB entspricht 1 Milliarde Byte. Die Berechnung folgt der von Aaron Mekonnen erläuterten Formel: Anzahl der Parameter × Bit pro Parameter ÷ 8.
| Präzision pro Parameter | Idealisierter Speicher für die Modellgewichte |
| 16 Bit | 200 GB (dezimal) |
| 4 Bit | 50 GB (dezimal) |
Die Tabelle erfasst nur die Modellgewichte. Beim Betrieb des Modells kommen weitere Speicherposten hinzu, darunter Quantisierungsmetadaten, höherpräzise Tensoren, Aktivierungen, Laufzeitbelegungen und der Schlüssel-Wert-Cache. Der gesamte Speicherbedarf hängt außerdem vom Modell, der Laufzeitumgebung, der Hardware, der Kontextlänge und der Arbeitslast ab. Aaron Mekonnen erläutert die Speicherrechnung und diese zusätzlichen Faktoren.
