Le monde traverse une explosion algorithmique sans précédent, et avec elle surgissent de nouveaux points de conflit. Par exemple, OpenAI est critiqué pour n'avoir rien d'« open » dans ses projets actuels, et d'autres acteurs maintiennent un « silence de presse » qui attire beaucoup l'attention. Mais on trouve aussi des exceptions comme Databricks, une société américaine qui travaille sur le modèle Dolly. Qu'a-t-il de spécial ? D'une part, il s'agit d'un projet open source, et d'autre part, il a été conçu pour un usage commercial.
Un mot qui revient très souvent dans les articles sur l'intelligence artificielle est « démocratisation ». D'ailleurs, c'est l'expression que les gens de Databricks ont utilisée quand ils ont présenté leur modèle Dolly en mars de cette année. Les paramètres de Dolly AI sont minimes comparés à ceux de GPT-3 (6 milliards contre 175 milliards), mais l'idée est que n'importe qui puisse prendre un modèle existant, l'entraîner avec des caractéristiques similaires à ChatGPT, et en 30 minutes avoir quelque chose à la portée de n'importe quelle entreprise.
Dolly AI 2.0, open source et commercial
Ces derniers jours, Databricks a décidé de renchérir avec Dolly AI 2.0. La nouvelle version double le nombre de paramètres (12 milliards) et prend comme base le modèle pythia d'EleutherAI. Cependant, Databricks a créé un ensemble d'entraînement dérivé des démonstrations générées par des milliers d'employés de l'entreprise. Tant le dataset que les weights du modèle et le code d'entraînement ont été publiés sous une licence Creative Commons, permettant ainsi leur usage commercial..
En revanche, le modèle d'OpenAI est propriétaire, et en plus de payer pour l'accès à l'API, les intéressés doivent également suivre ses conditions d'utilisation (à savoir « ils ne peuvent pas concurrencer OpenAI »). Le modèle LLaMA de Meta a fuité sur Internet au début du mois de mars, mais son usage commercial est interdit. Alpaca, Koala, Vicuna et GPT4All (dont nous avons récemment parlé ici) possèdent des restrictions similaires.
Tout intéressé à évaluer Dolly AI 2.0 peut déjà obtenir les weights sur Hugging Face et le dataset databricks-dolly-15k sur GitHub. Pour le moment, il n'y a pas de démos en ligne ni rien qui y ressemble, mais la nature open source du projet donnera sûrement lieu à une nouvelle vague de chatbots et d'autres services soutenus par l'intelligence artificielle.
Annonce officielle : Cliquez ici
