Model AI używany na iPhonie może działać na komputerze albo bezpośrednio na telefonie. W konfiguracji opisanej przez Abhinava Raja dla XDA komputer uruchamia Gemma 4 26B A4B, a iPhone łączy się z nim przez Locally i LM Link. Raj relacjonował także dostęp do modelu przez sieć komórkową.
Przy dostępie zdalnym iPhone jest klientem, a dostępność modelu zależy od tego, czy komputer pozostaje włączony i wybudzony.
W konfiguracji Locally model działa na komputerze
W relacji opublikowanej 8 listopada 2026 r. Abhinav Raj opisał konfigurację z LM Studio v0.4.28 na komputerze wyposażonym w kartę RTX 4070 Ti Super. To na PC działała 4-bitowa wersja Gemma 4 26B A4B; Locally na iPhonie służyło do połączenia się z modelem przez LM Link. Telefon nie wykonywał w tej konfiguracji inferencji, czyli obliczeń potrzebnych do generowania odpowiedzi.
W ustawieniach Raja wagi modelu zajmowały około 14,4 GB. Autor umieścił 30 warstw na GPU i korzystał z okna kontekstu 16K. Są to parametry opisanej przez niego konfiguracji, a nie minimalne wymagania dla innych komputerów.
LM Studio wymienia iPhone’a i iPada jako urządzenia obsługiwane przez aplikację Locally. W opisanym przepływie trzeba uruchomić model w LM Studio na PC, skonfigurować LM Link, a następnie zalogować się w Locally i wybrać połączony komputer oraz model. Do połączenia urządzeń potrzebne jest konto LM Studio.
Połączenie z iPhone’a zależy od dostępności komputera
Raj relacjonował, że wyłączył Wi-Fi w iPhonie, użył sieci komórkowej i uzyskał dostęp do modelu na komputerze bez otwierania portu w routerze. To wynik jego konkretnego testu. W tej konfiguracji PC musi pozostawać włączony i wybudzony; według relacji Raja uśpienie systemu Windows rozłącza telefon z modelem.
Model może też działać bezpośrednio na iPhonie
Inną architekturę pokazuje demonstracja Better Stack: Qwen3.5-35B-A3B działa w niej bezpośrednio na iPhonie 17. Prowadzący Warren podaje wynik 11 tokenów na sekundę i mówi, że telefon się nagrzewa. To obserwacje z tej demonstracji, a nie standaryzowany pomiar porównujący ją z konfiguracją na PC.
Nagranie opisuje też strumieniowanie ekspertów modelu z pamięci masowej. Warren podaje, że w tej konfiguracji około 1,4 GB wag pozostaje w pamięci. Pokazana metoda instalacji obejmuje ręczne przygotowanie aplikacji w Xcode i płatne konto deweloperskie Apple.
