Bei PC-KI auf dem iPhone kann das Modell auf dem Rechner laufen, während das iPhone nur darauf zugreift. So beschreibt Abhinav Raj seine Verbindung mit Locally und LM Link. Eine separate Demonstration zeigt auch ein Modell, das direkt auf einem iPhone rechnet.
Beim Fernzugriff rechnet der PC
In Rajs beschriebenem Aufbau läuft Googles 4-Bit-QAT-Version von Gemma 4 26B A4B in LM Studio auf einem PC mit einer RTX 4070 Ti Super. Locally auf dem iPhone dient als Client: Es stellt die Verbindung zum Rechner her, der die Antworten berechnet. LM Studio nennt iPhone und iPad als Plattformen für Locally.
Raj verwendete LM Studio v0.4.28. In seiner Konfiguration belegten die Modellgewichte etwa 14,4 GB; 30 Modellschichten liefen auf der GPU, bei einem Kontextfenster von 16K. Das beschreibt seinen Aufbau und keine allgemeine Mindestanforderung.
Für die Verbindung muss das Modell auf dem PC laufen. Raj zufolge richtet man LM Link in LM Studio ein, meldet sich in Locally an und wählt dort den verbundenen Rechner und das Modell aus. Der PC muss eingeschaltet und wach bleiben; versetzt Windows ihn in den Energiesparmodus, bricht die Verbindung ab.
Raj berichtet außerdem, dass er das WLAN seines iPhones ausschaltete und das Modell über Mobilfunk erreichte, ohne einen Port am Router zu öffnen. Das ist das Ergebnis seines beschriebenen Tests. Wer den Datenschutzaspekt mobiler KI vertiefen möchte, findet bei NeoTeo einen spanischsprachigen Hintergrundtext zur Verarbeitung auf dem Smartphone.
Beim Fernzugriff bleibt der PC der Rechner für das Modell. Bei einer lokalen Ausführung übernimmt das iPhone selbst die Inferenz.
Direkte Inferenz auf dem iPhone
Eine am 16. September 2026 veröffentlichte Demonstration von Better Stack zeigt eine andere Konfiguration: Qwen3.5-35B-A3B läuft direkt auf einem iPhone 17. Der Moderator Warren berichtet für diesen Lauf von 11 Tokens pro Sekunde und einem warm werdenden Gerät. Die Angaben beziehen sich auf diese Demonstration.
Warren erläutert, dass Modell-Experten aus dem Speicher nachgeladen werden und etwa 1,4 GB im Arbeitsspeicher liegen. Die gezeigte Einrichtung mit Flash iOS erforderte manuelle Arbeit mit Xcode und ein kostenpflichtiges Apple-Entwicklerkonto. Das ist ein anderer Weg als der Fernzugriff auf einen PC.
