Le 28 octobre 2026, Google a annoncé l’inférence GPU de LiteRT dans Google Play services via l’API CompiledModel. Une intégration existante avec l’API Interpreter peut continuer sur CPU, mais l’exécution sur GPU nécessite de passer à CompiledModel. Google l’a annoncé sur son blog développeurs.
Les gains annoncés par Google
Dans ses tests, Google rapporte une inférence environ 1,4× plus rapide que celle obtenue avec l’ancien GPU delegate de TensorFlow Lite. Google rapporte aussi que les applications qui remplacent LiteRT intégré par la version fournie via Google Play services sont environ 8 Mo plus légères. Ces résultats sont ceux des tests de Google. Le moteur GPU utilisé est ML Drift.
Google explique que le runtime et l’accélérateur GPU sont distribués par Google Play services plutôt qu’intégrés séparément à chaque application. Le format de modèle .tflite est conservé.
Interpreter pour le CPU, CompiledModel pour le GPU
Une intégration existante de l’API Interpreter dans Google Play services peut rester en place pour l’exécution sur CPU. Pour utiliser le GPU, il faut créer le modèle avec CompiledModel. Cette distinction permet de conserver l’exécution CPU pendant une migration progressive, puis de déplacer vers CompiledModel les usages qui doivent exploiter le GPU.
| Situation | API ou condition | Comportement |
| Intégration Interpreter existante | API Interpreter | L’exécution continue sur CPU après le passage à play-services-litert. |
| Inférence sur GPU | API CompiledModel | CompiledModel est nécessaire pour l’exécution GPU. |
| GPU et CPU demandés, sans GPU utilisable | Demander les deux options | L’exécution bascule sur CPU. |
La vidéo en anglais d’Android Developers revient sur l’ancienne intégration TensorFlow Lite dans Google Play services et l’API Interpreter, un contexte utile pour situer cette voie CPU.
Google déprécie l’ancien GPU delegate et les API de délégués personnalisés au profit de l’accélération GPU de CompiledModel et des API Compiler Plugin et Dispatch. Google indique que le retrait de NNAPI commencera en 2027. Les anciens SDK ne recevront que des correctifs de sécurité critiques.
Migrer vers CompiledModel
Google décrit cette séquence pour passer à LiteRT dans Google Play services :
- Ajoutez
com.google.android.gms:play-services-litert:17.0.0ou une version ultérieure. Si votre application intègre déjà LiteRT, retirez sa dépendancelitertembarquée. - Initialisez LiteRT en activant le GPU et attendez que l’environnement soit prêt. L’exemple de Google est en Kotlin :
val liteRtEnvironment = LiteRt.initialize( context, LiteRtDsl.initializationOptions { setEnableGpu(true) } ).await() - Transmettez cet environnement lors de la création de CompiledModel.
La documentation officielle de LiteRT dans Google Play services décrit l’intégration. Google précise que l’API Interpreter existante continue de fonctionner sur CPU après le passage à play-services-litert; pour le GPU, l’application doit utiliser CompiledModel.
Versions prises en charge et repli sur CPU
Google indique que LiteRT dans Google Play services prend en charge les téléphones sous Android 7 (API 24) ou ultérieur, Wear OS 4 ou ultérieur, ainsi qu’Android Automotive OS sous Android 11 ou ultérieur. Le runtime utilise OpenCL lorsqu’il est disponible, et OpenGL dans les autres cas. Si l’application demande à la fois le GPU et le CPU, l’exécution passe sur CPU lorsqu’aucun GPU utilisable n’est disponible.
Google Play services distribue les améliorations de performances, corrections de bugs et correctifs de sécurité par déploiements progressifs. Google indique également que la prise en charge des NPU dans Play services est en cours de développement.
