En un proyecto de IA local, Ed Bott usó un HP OmniBook Ultra con NVIDIA RTX Spark para crear un archivo de artículos: contó 479 llamadas de inferencia, casi 50 millones de tokens lógicos y 0 dólares en cargos de inferencia. Ese cero se refiere a procesar las consultas, no al precio del portátil. Bott publicó su relato el 6 de noviembre en ZDNET.
Para entender un «coste cero», mira qué partida mide: aquí son los cargos de inferencia del proyecto, no el coste del equipo.
Cómo organizó Bott el flujo de programación
Bott explicó que Microsoft Copilot le ayudó a configurar llama.cpp, el modelo de pesos abiertos Qwen3.8-27B y Cline, una herramienta de programación que ejecutó dentro de Visual Studio Code. La preparación le llevó menos de media hora, según su relato.
Después, Cline trabajó a partir de una especificación detallada de la aplicación: escribió código, ejecutó pruebas y revisó sus resultados de forma iterativa. Bott intervino para aprobar algunas decisiones. Así pudo encargarle una tarea larga sin dejar de supervisar el trabajo.
El archivo reunió 1.951 documentos en cada formato
Bott partió de una hoja de cálculo con enlaces a artículos que había reunido durante dos años. El flujo recuperó casi todos. Para cerca de 90 enlaces que devolvían un error 404, intentó localizar copias en Wayback Machine; otras 90 páginas, aproximadamente, quedaron sin recuperar. Bott dice que dedicó alrededor de media hora a revisar y resolver los problemas pendientes.
El resultado incluyó 1.951 archivos HTML sin procesar y 1.951 archivos Markdown, además de un script para añadir futuras publicaciones. La cifra de casi 50 millones de tokens y las 479 llamadas corresponde a ese mismo trabajo de archivo.
Durante la tarea, Bott oyó los ventiladores. Dijo que el portátil no se calentó hasta resultar incómodo y que, para esa carga, prefería colocarlo sobre un escritorio que usarlo en el regazo.
La unidad de prueba y la ficha de HP tienen distinta memoria
Bott describió su unidad con 128 GB de memoria unificada y 2 TB de almacenamiento Gen5 NVMe. La ficha estadounidense de HP corresponde a otra configuración: la SKU E5AW2UA#ABA tiene 64 GB de RAM y un SSD de 2 TB. HP también indica una pantalla táctil de 16 pulgadas con resolución 3K y Windows 11 Home en la ficha de esa configuración.
La comparación anterior sobre los modelos de IA local disponibles en el RTX Spark y en un portátil con Snapdragon X2 trataba de otra prueba, centrada en Hermes y en tareas de programación. El trabajo de Bott fue un proyecto de archivo distinto.
La IA local atrae por motivos distintos al ahorro
En una conversación de la comunidad de IA local, algunos participantes destacaron la privacidad, el control, el aprendizaje y el disfrute de experimentar. Otros aconsejaron no comprar hardware nuevo esperando recuperarlo solo mediante ahorro económico. Son opiniones personales sobre configuraciones variadas, no evaluaciones del portátil de Bott (conversación en r/LocalLLM).
