Ondanks enkele recente ontwikkelingen blijft de meest effectieve manier om toegang te krijgen tot ChatGPT de officiële site. OpenAI vraagt alleen om een account en een telefoonnummer... maar hoe klinkt het om ChatGPT op je pc te installeren? Het is natuurlijk niet de originele versie, maar het project GPT4All biedt toegang tot een behoorlijk overtuigende editie, en het beste is dat je het op een gewone computer kunt draaien.
Een van de belangrijkste aspecten van ChatGPT is de rekenkracht die nodig is om correct te werken. Veel pijlen wijzen in de richting van Nvidia A100-modules, echte monsters met 80 GB VRAM, een bus van 5.120 bits en twee terabyte per seconde (!) aan bandbreedte. Maar alles is een kwestie van schaal, en er zijn geen beperkingen bij het trainen van compacte modellen om op bescheidener of "alledaagse" hardware te draaien.
Met dat in gedachten komen we bij het project GPT4All, een van de beste opties (om niet te zeggen 'de' beste) om ChatGPT op je pc te installeren, of tenminste een eenvoudigere variant. haar ontwikkelaar Nomic AI presenteert het op Twitter als een chatbot gebaseerd op 430 duizend outputs van GPT-3.5-Turbo, en alles wat je nodig hebt is een computer met 8 GB RAM of meer.
Hoe installeer je ChatGPT op je pc met GPT4All
De configuratie van GPT4All in Windows is veel eenvoudiger dan je denkt. De eerste stap is het klonen van de repository op GitHub of het downloaden van de zip met alle inhoud (knop Code -> Download Zip). Vervolgens moet je het model zelf downloaden, gpt4all-lora-quantized.bin, direct beschikbaar of via BitTorrent. Er is ook een model zonder filters, gpt4all-lora-unfiltered-quantized.bin. De download is gemiddeld vier gigabyte.
Zodra je het model hebt, moet je het kopiëren naar de map "chat" in de repository. De laatste stap is het openen van een systeemconsole of PowerShell met verhoogde rechten, naar de map "chat" gaan en gpt4all-lora-quantized-win64.exe uitvoeren. Binnen enkele seconden is de cursor klaar om je prompts te ontvangen.
Uiteraard zal GPT4All nooit het niveau van ChatGPT of GPT-4 halen, en het is gemakkelijk om het in een waanfase te brengen, maar het potentieel is gigantisch. Het simpele feit dat je een van deze modellen lokaal kunt uitvoeren is fantastisch, en omdat het een open source-project is, is het zeer waarschijnlijk dat we in de toekomst nog robuustere versies zullen zien.
Officiële website en downloads: Klik hier
