Trotz einigen aktuellen Entwicklungen ist der effektivste Weg, auf ChatGPT zuzugreifen, immer noch die offizielle Website. Alles, was OpenAI verlangt, ist ein Konto und eine Telefonnummer… aber wie wäre es, ChatGPT auf deinem PC zu installieren? Natürlich handelt es sich nicht um die Originalversion, aber das GPT4All-Projekt bietet Zugang zu einer ziemlich überzeugenden Ausgabe, und das Beste daran ist, dass du es auf einem normalen Computer ausführen kannst.
Einer der wichtigsten Aspekte von ChatGPT ist die Rechenleistung, die es benötigt. Viele Pfeile zeigen auf Nvidia A100-Module, wahre Monster mit 80 GB VRAM, einem 5.120-Bit-Bus und zwei Terabyte pro Sekunde (!) Bandbreite. Aber alles ist eine Frage des Maßstabs, und es gibt keine Einschränkungen beim Trainieren kompakter Modelle für bescheidenere oder „irdischere“ Hardware.
Mit diesem Gedanken im Hinterkopf kommen wir zum GPT4All-Projekt, einer der besten Optionen (um nicht zu sagen „der“ besten), um ChatGPT auf deinem PC zu installieren, oder zumindest einer einfacheren Variante. Sein Entwickler Nomic AI stellt es auf Twitter als einen Chatbot vor, der auf 430.000 Outputs von GPT-3.5-Turbo basiert, und alles, was du brauchst, ist ein Computer mit 8 GB RAM oder mehr.
GPT4All auf dem PC installieren
Die Einrichtung von GPT4All unter Windows ist viel einfacher, als es scheint. Der erste Schritt ist, sein GitHub-Repository zu klonen oder das Zip mit dem gesamten Inhalt herunterzuladen (Button Code -> Download Zip). Danach musst du das eigentliche Modell herunterladen, gpt4all-lora-quantized.bin, das direkt oder über BitTorrent verfügbar ist. Es gibt auch ein ungefiltertes Modell, gpt4all-lora-unfiltered-quantized.bin. Der Download beträgt im Durchschnitt vier Gigabyte.
Sobald du das Modell hast, solltest du es in den Ordner „chat“ im Repository kopieren. Der letzte Schritt ist, eine Systemkonsole oder PowerShell mit erhöhten Rechten zu öffnen, in den Ordner „chat“ zu wechseln und gpt4all-lora-quantized-win64.exe auszuführen. In Sekundenschnelle ist der Cursor bereit, deine Prompts zu empfangen.
Offensichtlich wird GPT4All niemals das Niveau von ChatGPT oder GPT-4 erreichen, und es ist leicht, es in eine Phase des Deliriums zu führen, aber sein Potenzial ist gigantisch. Die einfache Tatsache, diese Modelle lokal ausführen zu können, ist fabelhaft, und da es sich um ein Open-Source-Projekt handelt, ist es sehr wahrscheinlich, dass wir in Zukunft noch robustere Versionen sehen werden.
Offizielle Website und Downloads: Hier klicken
