O Google anunciou em 28 de outubro de 2026 inferência por GPU para o LiteRT no Google Play services, usando a API CompiledModel. Para executar modelos na GPU, os desenvolvedores precisam usar essa API; integrações existentes com Interpreter continuam no caminho de CPU, segundo o anúncio do Google.
O que significam os números divulgados pelo Google
Nos testes do Google, a inferência por GPU ficou cerca de 1,4× mais rápida que com o antigo delegate de GPU do TensorFlow Lite. O Google também relata que aplicativos que trocaram o LiteRT empacotado pelo runtime distribuído pelo Play services ficaram cerca de 8 MB menores. As duas cifras descrevem resultados dos testes do Google, não uma promessa de ganho idêntico para qualquer aplicativo ou modelo.
O runtime e o acelerador de GPU passam a ser fornecidos pelo Google Play services, em vez de serem incluídos em cada aplicativo. O Google também diz que atualizações de desempenho, correções de bugs e patches de segurança chegam por liberações graduais do Play services.
Interpreter atende à CPU; GPU exige CompiledModel
Quem já usa o Interpreter pelo Google Play services pode manter essa integração para executar modelos na CPU ao migrar para play-services-litert. Para usar a GPU, é necessário passar para a API CompiledModel. O Google descontinuou as APIs antigas de GPU delegate e de delegates personalizados.
| Necessidade | API ou configuração | Resultado descrito pelo Google |
| Manter uma integração existente com Interpreter | Interpreter | A execução continua na CPU |
| Executar inferência na GPU | CompiledModel | Usa o caminho de GPU do LiteRT |
| Solicitar GPU e CPU quando não há uma GPU utilizável | Solicitar ambas | O runtime recorre à CPU |
A apresentação em inglês do Android Developers percorre uma integração anterior com TensorFlow Lite e a API Interpreter. Ela serve de contexto histórico para esse caminho de CPU, não mostra a implementação CompiledModel anunciada em 2026.
Como migrar para o CompiledModel
A sequência indicada pelo Google começa pela dependência e termina com a criação do modelo compilado:
- Adicione
com.google.android.gms:play-services-litert:17.0.0ou uma versão posterior. - Se o aplicativo já empacota o LiteRT, remova a dependência
litertincluída no próprio app. - Inicialize o LiteRT com a GPU habilitada, usando
setEnableGpu(true), e aguarde a criação do ambiente. - Passe esse ambiente ao criar o CompiledModel.
O formato de modelo .tflite continua compatível com a integração. O Google diz que o LiteRT usa OpenCL quando disponível e OpenGL nos demais casos descritos no anúncio.
Plataformas e mudanças nas APIs antigas
O Google lista suporte a celulares com Android 7 ou posterior, equivalente à API 24; Wear OS 4 ou posterior; e Android Automotive OS com Android 11 ou posterior. Se a aplicação solicita GPU e CPU e o dispositivo não tem uma GPU utilizável, o runtime pode executar pela CPU. Essa condição não muda o requisito de usar CompiledModel para inferência por GPU.
O Google afirma que a remoção da NNAPI começa em 2027. Também diz que SDKs antigos recebem apenas correções críticas de segurança e que código baseado nas APIs descontinuadas não compila com o SDK mais recente.
