Artykuł opublikowany w materiałach IEEE opisuje ORISA jako framework informatyki śledczej, który odtwarza kontekst usuniętych rozmów z danych zachowanych w pamięci procesu lokalnych aplikacji LLM, czyli aplikacji korzystających z dużych modeli językowych. Badanie dotyczy aplikacji na Androidzie. Nie obejmuje historii czatów przechowywanych na serwerach usług chmurowych.
Jak ORISA odtwarza lokalną sesję
ORISA wykorzystuje tokeny przetwarzane partiami oraz cache KV, czyli pamięć podręczną klucz-wartość, zachowane w pamięci procesu aplikacji. Na ich podstawie rekonstruuje sekwencje tokenów i przywraca stany uwagi sesji. W efekcie tworzy sesję odtworzoną niezależnie od aplikacji, w której powstała rozmowa.
Co pokazała demonstracja Project Note Keeper
W demonstracji opisanej przez Georgia Tech fikcyjny asystent Project Note Keeper działał w aplikacji ChatterUI na Androidzie. Badacze podali mu 100 fikcyjnych informacji o projekcie, a następnie usunęli rozmowę. Pierwotna sesja nadal miała dostęp do 14 faktów; sesja odtworzona zwróciła 26.
| Sesja | Fakty spośród 100 podanych | Wynik w demonstracji |
| Pierwotna | 14 | Tyle faktów sesja nadal mogła udostępnić po usunięciu rozmowy. |
| Odtworzona | 26 | Tyle faktów zwróciła sesja zrekonstruowana przez ORISA. |
To wyniki jednej demonstracji, a nie ogólny odsetek odzyskiwanych informacji z usuniętych czatów.
Jak szeroką ewaluację opisuje artykuł
Autorzy oceniali ORISA w 60 konfiguracjach sesji, obejmujących 10 lokalnych aplikacji LLM na Androidzie i trzy architektury modeli. Abstrakt artykułu podaje odzyskanie 100% tokenów i tensorów cache KV w obrębie aktywnego okna kontekstu. To wynik odnoszący się do tego okna, a nie do całej historii każdej rozmowy.
Autorzy podają też, że sesje odtworzone ujawniały średnio 169,6% informacji dostępnych w sesji pierwotnej. Wartość opisuje średnią relację między wynikami sesji w badaniu, nie gwarantowany poziom odzyskania dla konkretnej aplikacji czy telefonu.
Co dzieje się z pozostałymi śladami w pamięci
Zakres badania to artefakty pamięci procesu lokalnych aplikacji LLM. Georgia Tech wskazuje, że zwykła aktywność telefonu, która nadpisuje pamięć, utrudnia późniejsze odzyskanie kontekstu. Wyniki dotyczą więc konkretnej metody badawczej i lokalnych aplikacji, a nie dowolnej usługi AI ani każdego usuniętego czatu.
