La nouvelle génération de chatbots a pris d'assaut le Web, mais elle n'est pas à l'abri de problèmes. En effet, leur capacité à délirer et à générer de la désinformation est véritablement effrayante, et les doutes sur le développement éthique des modèles en arrière-plan se multiplient à grande vitesse. Mozilla non seulement a reconnu cette situation, mais a décidé d'avancer vers une solution à long terme avec Mozilla.ai, une nouvelle start-up qui a pour objectif la création d'un écosystème d'intelligence artificielle ouvert et transparent.
Tout utilisateur qui a eu une conversation avec ChatGPT ou Bing Chat ces dernières semaines a sûrement découvert deux détails : l'autorité que ces chatbots transmettent en répondant, et leur extraordinaire capacité à inventer des choses ou à reproduire des bêtises. Bien qu'il y ait des sujets que les chatbots refusent de discuter (pour différentes raisons), il est fort probable que tôt ou tard ils inventent quelque chose de complètement faux ou rempli d'erreurs.
Des fake news aux conflits de droits d'auteur, de nombreuses flèches pointent vers un problème avec les modèles eux-mêmes et leurs processus d'entraînement. Sans aller trop loin, OpenAI est accusée d'abandonner le « Open » dans son nom, et de limiter la quantité de détails techniques publics sur GPT-4. Pour les gens de Mozilla, cette stratégie est erronée, et avec l'aide du chercheur Moez Draief, ils ont décidé de créer une nouvelle start-up appelée Mozilla.ai.
Mozilla.ai : est-il possible de créer une intelligence artificielle fiable ?
Si l'on se rend sur la page officielle de Mozilla.ai, on ne trouve rien de plus qu'une brève introduction et une section contact, mais c'est plus que suffisant : au lieu de lancer un chatbot ou un modèle propre, le plan de Mozilla.ai est de développer un écosystème d'intelligence artificielle open source, décentralisé et fiable, soutenu par des outils qui fourniront la sécurité lors de la création de systèmes de recommandations et de plateformes génératives.
L'annonce sur le blog de Mozilla va un peu plus loin en mentionnant que l'intelligence artificielle peut enrichir la vie des gens à condition de ne pas perdre de vue les intérêts des utilisateurs, et de prioriser des paramètres comme transparence et responsabilité. Cependant, Mozilla ne se contente pas de simples paroles : l'investissement initial dans la société est de 30 millions de dollars. Il faudra attendre quelques mois pour connaître les prochaines étapes de Mozilla.ai, mais ma suggestion est qu'ils ne tardent pas trop. L’« ère de ChatGPT » est déjà arrivée, et le chatbot ne demande pas vraiment la permission…
Site officiel : Cliquez ici
