ORISA è un framework di informatica forense che ricostruisce e riospita contesti di conversazione da app locali per modelli linguistici di grandi dimensioni (LLM) su Android. Il metodo descritto nell’articolo IEEE usa artefatti conservati nella memoria di processo dell’app, non le cronologie degli account cloud.

Come ORISA ricostruisce una sessione locale

ORISA usa token elaborati in batch e cache key-value (KV), strutture che conservano informazioni utili al modello durante una sessione. Il framework ricostruisce sequenze di token e ripristina gli stati di attenzione della sessione, cioè le informazioni che il modello usa per collegare i diversi elementi del contesto. Il risultato è una sessione riospitata e indipendente dall’app di origine.

La dimostrazione con Project Note Keeper

Georgia Tech ha descritto una prova con Project Note Keeper, un assistente fittizio realizzato nell’app Android ChatterUI. I ricercatori gli hanno fornito 100 fatti inventati su un progetto e poi hanno eliminato la conversazione. Alla richiesta di elencare le note, la sessione riospitata ne ha restituiti 26; quella originale poteva ancora accedere a 14.

SessioneFatti accessibili o restituitiContesto
Originale14Fatti ancora accessibili dopo l’eliminazione della conversazione
Ri-ospitata26Fatti restituiti quando è stato chiesto di elencare le note

Che cosa misura la valutazione

Schema del flusso dagli artefatti nella memoria di processo al recupero di token e cache KV, fino alla sessione ricostruita e ri-ospitata.

L’articolo IEEE riferisce una valutazione su 60 configurazioni di sessione, 10 app LLM locali per Android e tre architetture di modelli. Nell’abstract, gli autori riportano il recupero del 100% dei token e dei tensori della cache KV presenti nella finestra di contesto attiva. La percentuale riguarda questi elementi entro quella finestra.

Lo stesso abstract indica che, in media, le sessioni ri-ospitate hanno rivelato una quantità di conoscenza pari al 169,6% rispetto alla sessione originale. È una misura comparativa del contenuto emerso nelle sessioni valutate, non una percentuale di chat recuperate.

App locali, cronologie cloud e memoria del telefono

Lo studio riguarda app LLM locali su Android. Non tratta il recupero delle cronologie cloud di servizi IA. Georgia Tech afferma inoltre che la normale attività del telefono può sovrascrivere la memoria e rendere più difficile il recupero.