Ed Bott opisał projekt lokalnej AI na HP OmniBook Ultra z NVIDIA RTX Spark, w którym wykonał 479 wywołań inferencji i przetworzył prawie 50 milionów tokenów logicznych. Podał 0 USD opłat za inferencję w tym zadaniu. Relację opublikował ZDNET 6 listopada 2026 r.; opisany wynik dotyczy konkretnego przepływu pracy, nie pomiaru szybkości generowania tekstu (relacja Eda Botta).

Kwota 0 USD dotyczy opłat za inferencję, a nie całkowitego kosztu projektu.

Jak Bott skonfigurował lokalne środowisko AI

Bott podał, że Microsoft Copilot pomógł mu skonfigurować llama.cpp, czyli środowisko do uruchamiania inferencji, model o otwartych wagach Qwen3.8-27B oraz Cline w Visual Studio Code. Konfiguracja zajęła mu mniej niż pół godziny. Bott użył też skryptów PowerShell.

Następnie przekazał Cline szczegółową specyfikację aplikacji. Agent tworzył kod, uruchamiał testy i poprawiał wyniki, a Bott od czasu do czasu zatwierdzał kolejne działania. Wcześniejszy tekst NeoTeo dotyczył porównania RTX Spark i Snapdragon X2; projekt Botta to osobny przykład lokalnej pracy z modelem, skupiony na archiwizacji artykułów.

Co powstało z listy linków do artykułów

Bott wykorzystał arkusz z odnośnikami do artykułów, który gromadził przez dwa lata. Projekt pobrał niemal wszystkie wskazane strony. Dla około 90 linków zwracających błąd 404 Bott próbował odzyskać kopie w Wayback Machine, a około 90 kolejnych stron pozostało nieodzyskanych. Przejrzenie i uporządkowanie pozostałych problemów zajęło mu około 30 minut.

Wynikiem było 1 951 plików surowego HTML oraz 1 951 plików Markdown, a także skrypt do dodawania przyszłych wpisów. Bott opisał testowany komputer jako HP OmniBook Ultra z 128 GB pamięci zunifikowanej i dyskiem Gen5 NVMe o pojemności 2 TB.

Podczas pracy nad modelem wentylatory były słyszalne. Bott nie uznał, że laptop nagrzewał się niekomfortowo, ale przy tym obciążeniu wolał ustawić go na biurku niż trzymać na kolanach.

Co oznacza 0 USD i którą konfigurację wymienia HP

Podane przez Botta 0 USD odnosi się do opłat za wywołania modelu w tym projekcie. Nie wycenia komputera ani energii zużytej podczas pracy.

Amerykańska strona sklepu HP wymienia osobną konfigurację OmniBook Ultra z RTX Spark: SKU E5AW2UA#ABA ma 64 GB pamięci i dysk SSD o pojemności 2 TB (oferta HP w USA). To nie konfiguracja 128 GB opisana przez Botta. Ta różnica ma znaczenie przy interpretowaniu wyniku: liczby z jego projektu odnoszą się do konkretnego komputera i zadania.

Dlaczego użytkownicy wybierają lokalne AI

W jednej dyskusji na r/LocalLLM uczestnicy wymieniali prywatność, kontrolę, naukę i przyjemność eksperymentowania jako powody korzystania z lokalnych modeli. Inni odradzali kupowanie nowego sprzętu wyłącznie z myślą o oszczędnościach (wypowiedzi w dyskusji). To różne opinie użytkowników, a nie ocena laptopa HP.