Een AI-functie op je smartphone kan een verzoek op het toestel verwerken of naar een cloudmodel sturen. Dat een lokaal model beschikbaar is, zegt op zichzelf niet welke route een app voor elke taak gebruikt. Dat verschil bepaalt waar de inhoud van je verzoek wordt verwerkt.
Een lokaal model vertelt niet het hele verhaal
Een on-device model voert AI-berekeningen uit op het apparaat zelf. Android Developers beschrijft Gemini Nano als zo’n model: apps kunnen het via de systeemdienst AICore gebruiken. Android zegt dat AICore zelf geen rechtstreekse internettoegang heeft. Internetverzoeken, waaronder modeldownloads, lopen via Private Compute Services. Volgens Android bewaart AICore na de verwerking geen registratie van de invoer of uitvoer. Android Developers beschrijft Gemini Nano en AICore.
Die grenzen gelden voor AICore, niet automatisch voor alle netwerkfuncties van een app. Bovendien hangt het ervan af of de app de betreffende API daadwerkelijk gebruikt. Een lokaal model in de telefoon is dus geen garantie dat iedere functie van de app lokaal blijft.
Wanneer Android een verzoek naar de cloud kan sturen
Android beschrijft ook een hybride route. De Firebase AI Logic Hybrid API kan een verzoek naar Gemini Flash of Gemini Pro in de cloud sturen wanneer Gemini Nano niet beschikbaar is of niet wordt ondersteund op het apparaat. Dat is een mogelijke route in de API; het betekent niet dat iedere app die gebruikt.
Voor een specifieke functie zijn daarom twee vragen relevant: gebruikt de app Gemini Nano voor deze taak, en kan de gekozen route uitwijken naar een cloudmodel? De app en de taak bepalen mede welk pad wordt gebruikt.
Wat Apple zegt over Private Cloud Compute
Apple beschrijft Private Cloud Compute (PCC) als een manier om complexe Apple Intelligence-verzoeken met grotere modellen in de cloud te verwerken. Apple zegt dat PCC verzoekgegevens alleen gebruikt om het antwoord te leveren, ze na het antwoord verwijdert en ze ontoegankelijk maakt voor Apple-medewerkers. Dit zijn de waarborgen die Apple voor het ontwerp beschrijft. Apple licht de werking van Private Cloud Compute toe.
Voor de versleuteling trekt Apple een duidelijke grens: tijdens de berekening moet een cloudmodel de verzoekinhoud in onversleutelde vorm kunnen verwerken. PCC gebruikt volgens Apple versleutelde communicatie naar gevalideerde nodes, maar cloudverwerking is daardoor tijdens de inferentie, de berekening van het antwoord, niet end-to-end versleuteld.
Waar je op kunt letten bij een AI-functie
Kijk naar de specifieke app en taak, niet alleen naar de naam van het model. Een bruikbare privacybeschrijving maakt duidelijk of de functie lokaal verwerkt, een cloudfallback kan gebruiken en welke gegevens de aanvraag bevat. De documentatie over AICore zegt iets over die Android-systeemdienst; ze beschrijft niet automatisch het overige netwerkverkeer van een app. Apple’s PCC-beschrijving gaat over Apple’s eigen cloudverwerking.
