Ed Bott schilderte in einem am 6. November 2026 veröffentlichten Bericht einen lokalen KI-Programmierlauf auf dem HP OmniBook Ultra mit NVIDIA RTX Spark: 479 Inferenzaufrufe, knapp 50 Millionen logische Tokens und null Euro Inferenzgebühren. Die Zahlen beziehen sich auf dieses konkrete Archivprojekt.

Wer sich für den Gerätevergleich interessiert, findet auch unseren Vergleich des OmniBook Ultra mit einem Snapdragon-X2-Notebook. Bott beschreibt einen anderen Einsatz: ein lokales Sprachmodell, das beim Aufbau eines Artikelarchivs half.

So lief die lokale Einrichtung

Bott nutzte llama.cpp, eine Laufzeitumgebung für lokale KI-Modelle, sowie das Open-Weights-Modell Qwen3.8-27B. Cline lief als Programmieragent in Visual Studio Code. Copilot half Bott bei der Einrichtung, die laut seinem Bericht weniger als eine halbe Stunde dauerte.

Anschließend arbeitete Cline anhand einer detaillierten Anwendungsspezifikation schrittweise am Code, führte Tests aus und überarbeitete seine Ergebnisse. Bott griff gelegentlich ein und gab Arbeitsschritte frei.

Aus Links wurde ein Artikelarchiv

Als Grundlage diente eine Tabelle mit Links zu Artikeln, die Bott über zwei Jahre gesammelt hatte. Das Modell rief fast alle Seiten ab. Bei ungefähr 90 Links, die Fehler 404 zurückgaben, versuchte der Ablauf eine Wiederherstellung über die Wayback Machine des Internet Archive. Etwa 90 weitere Seiten ließen sich nicht abrufen. Bott verbrachte rund 30 Minuten damit, die übrigen Probleme zu prüfen und zu bearbeiten.

Am Ende umfasste das Archiv 1.951 HTML-Dateien und 1.951 Markdown-Dateien. Ein zusätzliches Skript sollte das Ergänzen späterer Beiträge ermöglichen. Über den eigentlichen Archivlauf hinweg zählte Bott 479 Inferenzaufrufe und knapp 50 Millionen logische Tokens.

Bott zufolge waren die Lüfter bei der Arbeit mit dem Modell hörbar, der Rechner sei aber nicht unangenehm heiß geworden. Für diesen Einsatz fand er einen Platz auf dem Schreibtisch geeigneter als die Nutzung auf dem Schoß.

Was null Euro bedeutet

Die null Euro bezogen sich auf Inferenzgebühren für dieses Projekt, nicht auf den Kauf des Rechners.

Die Angabe beschreibt die Gebühren für die Modellaufrufe in Bott’ Projekt. Sie beziffert weder den Laptop noch die gesamten Projektkosten.

Auch die Speicherausstattung lässt sich nicht einfach von Bott’ Gerät auf jedes gelistete Modell übertragen. Bott beschrieb sein Testgerät mit 128 GB gemeinsamem Speicher. HP führt in seinem US-Shop die SKU E5AW2UA#ABA als separate RTX-Spark-Konfiguration mit 64 GB Arbeitsspeicher und einer 2-TB-SSD. Diese Ausstattung ist nicht die von Bott beschriebene Testkonfiguration.

Warum Nutzer lokale KI unterschiedlich bewerten

In einer Diskussion auf Reddit nannten einzelne Nutzer Datenschutz, Kontrolle, Lernen und den Spaß am Experimentieren als Gründe für lokale KI. Andere rieten davon ab, neue Hardware allein in der Hoffnung auf finanzielle Einsparungen zu kaufen. Die Beiträge beziehen sich auf unterschiedliche eigene Setups, nicht auf Bott’ HP-Notebook.