Een Docker-opzet kan zoekfuncties, bestands- en terminaltoegang en app-koppelingen samenbrengen in één AI-omgeving. Maar lokale containers betekenen niet automatisch dat ook het AI-model lokaal draait: Jayric Maning van MakeUseOf meldde dat hij voor zijn serieuze taken overstapte op een betaalde inferentie-API, omdat zijn lokale modeltests te traag waren.

De praktische scheidslijn loopt dus tussen waar de applicatie draait en waar het model verzoeken verwerkt. Dat verschil bepaalt of een zelfgehoste opzet past bij je behoefte aan lokale inferentie.

Controleer waar het model draait, niet alleen waar de interface staat.

Welke onderdelen brengt de Docker-opzet samen?

Maning beschreef een combinatie van drie diensten: Open WebUI als interface, Open Terminal voor terminal- en geselecteerde bestandsmaptoegang, en SearXNG voor webzoekopdrachten. Samen kunnen zulke componenten functies bieden als zoeken, bestanden gebruiken, code uitvoeren en kennisbanken en app-koppelingen inzetten.

OnderdeelRol in de beschreven opzet
Open WebUIDe interface en werkruimte voor de AI-diensten
Open TerminalTerminaltoegang en toegang tot gekozen mappen op de computer
SearXNGDe zoekdienst die Open WebUI gebruikt voor webzoekopdrachten

Maning meldde ook koppelingen via MCP, een manier om ondersteunde apps met de omgeving te verbinden. Hij noemde Notion, Obsidian en LibreOffice als aangesloten toepassingen. Die koppelingen vragen configuratie; het is dus geen kant-en-klare dienst waarin alle onderdelen vanzelf samenwerken.

Betekent zelf hosten dat de inferentie lokaal blijft?

Nee, niet vanzelf. Je kunt de applicatiediensten op je eigen computer draaien en tegelijk een externe API gebruiken om verzoeken door een AI-model te laten verwerken. In Manings beschreven gebruik ging dat laatste zo: hij probeerde Qwen3.8-9B-Distill op een grafische kaart met 8 GB videogeheugen, maar vond de verwerking te traag voor zijn serieuze taken. Daarna gebruikte hij een betaalde inferentie-API.

Zijn ervaring beschrijft één configuratie, geen algemene prestatiemeting voor lokale modellen. De relevante keuze is concreet: als je lokale inferentie nodig hebt, controleer dan of de gekozen opzet ook daadwerkelijk een lokaal model gebruikt. De aanwezigheid van Docker en een lokaal draaiende interface zegt op zichzelf niet waar de inferentie plaatsvindt.

Maning beschreef de kernsoftware als zonder abonnementsdienst, maar meldde ook kosten voor API-tokens. Zijn opzet was daarmee niet kosteloos in gebruik. Hij rapporteerde bovendien dat het opzetten tijd kost en dat MCP-koppelingen onderhoud kunnen vragen wanneer diensten of aanmeldingen veranderen.

Wat verandert de Tether-sandbox voor Open Terminal?

De release-informatie van Open WebUI v0.13.4 beschrijft een aparte Tether-sandbox voor Open Terminal op macOS en ondersteunde Windows-apparaten. Daarvoor is Tether 0.1.13 of nieuwer vereist. De sandbox beperkt terminalprocessen tot één gekozen map; netwerktoegang is optioneel en inkomende verbindingen worden niet geaccepteerd. Als de sandbox niet kan worden afgedwongen, blijft de terminal gestopt. Browser- en bureaubladbediening zijn uitgeschakeld zolang de sandbox actief is. (Open WebUI-release-informatie voor v0.13.4)

Dit is een afzonderlijke optie uit versie 0.13.4, niet een eigenschap van de Open WebUI 0.13.3-configuratie die Maning beschreef. De sandbox beperkt de terminaltoegang; ze bepaalt niet of het AI-model lokaal of via een externe inferentie-API draait.

Voor wie is deze opzet geschikt?

Een zelfgehoste combinatie kan passen als je met Docker en terminalinstellingen overweg kunt en bereid bent losse diensten en koppelingen zelf te configureren en te onderhouden. Wil je vooral dat modelverwerking op je eigen computer plaatsvindt, kijk dan naar de inferentieroute afzonderlijk van de plek waar Open WebUI draait. Voor wie Open Terminal met extra mapbeperkingen wil gebruiken, gelden bovendien de platform- en versievoorwaarden van de Tether-sandbox.