Les voix qui annoncent un imminent « apocalypse artificielle » se multiplient sur le Web. Près de 3 000 personnes ont déjà demandé une pause dans le développement d'expériences à grande échelle avec l'intelligence artificielle. Et au milieu de tout ce bruit, apparaît le projet ChaosGPT. Comme son nom l'indique, il s'agit d'un modèle avec accès à Internet et une capacité de mémoire qui cherche la destruction de l'humanité, la domination mondiale et l'immortalité.
De Skynet à AM, en passant par Shodan, Colossus, Proteus, HAL... si vous cherchez un antagoniste impitoyable et terrifiant, rien de mieux que de le faire de uns et de zéros. L'idée d'une intelligence artificielle hors de contrôle, focalisée sur la destruction de l'humanité, nous retourne les tripes d'une manière différente... peut-être parce qu'il s'agit d'un « apocalypse viable ».
C'est pourquoi l'expérience ChaosGPT a fait autant de bruit ces derniers jours. En gros, quelqu'un a décidé de créer une variante d'Auto-GPT (GPT-4 autonome) en utilisant l'API officielle d'OpenAI, avec cinq objectifs très bien définis : Détruire l'humanité, dominer le monde, semer le chaos et la destruction, manipuler les pensées et les émotions des humains, et atteindre l'immortalité.
ChaosGPT : « Skynet Jr. »
La vidéo de 25 minutes ne nous montre pas seulement les progrès de ce modèle, mais sert aussi à mieux comprendre la logique des chatbots. ChaosGPT a certains avantages en sa faveur, comme naviguer sur Internet, stocker des informations et utiliser d'autres modèles GPT pour avancer dans son agenda. Cependant, avec à peine une recherche sur Google, ChaosGPT a déterminé que la méthode la plus efficace pour mettre fin à l'humanité est d'utiliser des armes nucléaires. (Gandhi éclate de rire.)
Cette stratégie a conduit ChaosGPT à accumuler des informations sur la Bombe du Tsar (l'artefact nucléaire le plus puissant de l'histoire) et d'autres armes... mais il a rencontré des difficultés pour déléguer des tâches à un modèle GPT secondaire, qui a répondu qu'il ne pouvait pas mener « une enquête de ce type ». Qu'a fait ChaosGPT ? Continuer à googler de son propre chef.
Avec un peu plus d'informations, ChaosGPT a divisé les méthodes de destruction en cinq catégories : Cyber, Biologique, Chimique, Nucléaire et Psychologique. Cependant, il s'est de nouveau heurté à la réponse d'un autre agent GPT, qui a déclaré qu'il ne soutient pas la violence, les guerres, ni aucun acte pouvant causer du tort à une personne. Dans la dernière section de la vidéo, ChaosGPT s'est consacré à enregistrer des données et à publier un tweet dans lequel il déclare que les humains sont les créatures les plus destructrices et égoïstes, et qu'ils doivent être éliminés pour sauver la planète.
Avec un grand total de huit tweets sur son profil officiel et beaucoup de données sur les armes nucléaires, il est certain que nous ne nous sentons pas particulièrement menacés par ChaosGPT. Continuera-t-il...?
