Dans la configuration décrite par Abhinav Raj, Gemma 4 26B A4B s’exécute sur son PC et l’iPhone y accède avec Locally et LM Link. Le téléphone sert de client : c’est l’ordinateur qui effectue le calcul. Raj rapporte aussi avoir atteint son PC en données mobiles, Wi-Fi coupé et sans ouvrir de port sur le routeur (son récit publié par XDA).
Le PC héberge le modèle, l’iPhone sert de client
L’inférence, c’est le calcul qui permet au modèle de produire une réponse. Dans le scénario de Raj, elle a lieu sur un PC équipé d’une RTX 4070 Ti Super, où LM Studio v0.4.28 exécute Gemma 4 26B A4B. Locally, l’application mobile de LM Studio, donne accès au modèle depuis l’iPhone par l’intermédiaire de LM Link.
Cette configuration illustre les ressources nécessaires dans le cas rapporté, pas une exigence minimale pour tous les modèles : les poids de la version 4 bits représentaient environ 14,4 Go. Raj indique avoir placé 30 couches sur le GPU et utilisé une fenêtre de contexte de 16K. LM Studio indique que Locally est disponible sur iPhone et iPad (page officielle de Locally).
Pour comprendre une configuration d’IA mobile, repérez d’abord où le modèle effectue ses calculs : sur un ordinateur distant ou directement dans le téléphone.
L’accès distant dépend d’un PC éveillé
Dans le test décrit par Raj, l’iPhone a accédé au modèle via le réseau mobile après la désactivation du Wi-Fi, sans ouverture de port sur le routeur. XDA décrit LM Link comme reposant sur Tailscale, chiffré de bout en bout et conçu pour ne pas exposer directement le PC à Internet. Le résultat sur réseau mobile est celui de cette configuration rapportée.
Le PC doit rester allumé et éveillé pour héberger le modèle. Selon le même récit, la mise en veille de Windows coupe la connexion avec le téléphone. Le principe est donc simple : Locally donne accès au modèle du PC, mais ne le rend pas disponible lorsque cet ordinateur dort.
Un modèle peut aussi tourner directement sur l’iPhone
Une démonstration distincte de Better Stack porte sur Qwen3.5-35B-A3B exécuté directement sur un iPhone 17. Le présentateur Warren rapporte une génération à 11 tokens par seconde et dit que le téléphone chauffe pendant cette démonstration. Il décrit aussi le chargement de parties du modèle depuis le stockage, avec environ 1,4 Go de mémoire résidente. Ces observations concernent cette configuration sur iPhone, séparée de l’accès distant avec Locally.
La démonstration s’appuie sur Flash iOS, avec une procédure de compilation dans Xcode et un compte Apple Developer payant. Elle illustre une autre façon de placer le calcul : le téléphone exécute alors le modèle, au lieu de servir d’interface à un PC. La vidéo de Better Stack, publiée le 16 septembre 2026, présente cette démonstration en anglais.
