Meta lance les modèles Llama 2 prenant en charge l’utilisation commerciale

Llama 2, la dernière collection de modèles de grande langue de Meta, peut maintenant être téléchargée gratuitement et l’utilisation commerciale est prise en charge.

Le parent de Facebook a publié mardi Llama 2 : il s’agit d’un ensemble de modèles d’IA basés sur du texte pré-entraînés et affinés dans trois tailles différentes, contenant sept milliards, 13 milliards et 70 milliards de paramètres.

Contrairement à son modèle LLaMA précédent, Meta ne limite pas l’accès aux réseaux de neurones à des fins de recherche. Au lieu de cela, n’importe qui peut demander à télécharger la nouvelle technologie Llama 2, et les développeurs peuvent l’utiliser pour créer des produits ou services commerciaux, ainsi que des projets amusants. Nous notons que le modèle LLaMA précédent a de toute façon fuité peu de temps après sa sortie.

Meta s’est également associé à Microsoft et Amazon pour rendre le modèle disponible sur les plateformes cloud Azure et AWS des géants de l’informatique, respectivement. Microsoft est par ailleurs connu pour défendre les modèles d’OpenAI.

“L’open source stimule l’innovation car il permet à beaucoup plus de développeurs de construire avec de nouvelles technologies”, a déclaré le PDG de Meta, Mark Zuckerberg, dans un communiqué. “Cela améliore également la sûreté et la sécurité car lorsque le logiciel est ouvert, davantage de personnes peuvent l’examiner pour identifier et résoudre les problèmes potentiels. Je pense que cela débloquerait plus de progrès si l’écosystème était plus ouvert, c’est pourquoi nous utilisons Llama 2 en open source. “

Il est intéressant que certaines personnes disent, directement ou non, que Llama 2 est open source. Les puristes du monde FOSS peuvent ne pas être d’accord.

Notamment, il y a quelques mises en garde sur la façon dont les modèles peuvent être utilisés. En plus des avertissements habituels sur le fait de ne pas utiliser le logiciel pour des activités illégales ou pour tromper ou induire en erreur les gens, les développeurs ne peuvent pas utiliser ses résultats pour améliorer d’autres types de grands modèles de langage.

Google accuse formellement le monopoleur Microsoft de piéger les gens dans son cloud

EN SAVOIR PLUS

Les entreprises qui cherchent à utiliser Llama 2 pour des applications prenant en charge plus de 700 millions d’utilisateurs actifs par mois doivent demander une licence spéciale pour utiliser la technologie de Meta. Les conditions complètes sont énoncées dans le contrat de licence communautaire Llama 2 (texte), que nous n’avons pas trouvé sur la liste des licences open source de l’Open Source Initiative.

“Notre modèle et nos poids sont sous licence pour les chercheurs et les entités commerciales, respectant les principes d’ouverture”, ont expliqué les ingénieurs de Meta dans le Llama 2 README. “Notre mission est d’autonomiser les individus et l’industrie grâce à cette opportunité, tout en favorisant un environnement de découverte et d’avancées éthiques de l’IA.”

Les chercheurs de Meta ont déclaré que Llama 2 est basé sur la même architecture que sa version précédente, mais a été formé sur 40% de jetons supplémentaires, qui sont des morceaux de texte extraits de toutes sortes de sources, et peut traiter plus de texte dans son invite de saisie. Son modèle Llama-2 Chat a été affiné avec l’apprentissage par renforcement avec des techniques de rétroaction humaine pour générer des réponses plus utiles et plus sûres, nous dit-on.

Ils ont cependant averti que les modèles Llama 2 ne sont pas parfaits et peuvent générer “un contenu nuisible, offensant ou biaisé”. Pourtant, ils pensent que le publier gratuitement signifie que davantage de développeurs peuvent travailler à la résolution de problèmes et permettre à davantage d’entreprises d’expérimenter l’IA. Meta bénéficie si son logiciel est plus largement adopté, et il peut éloigner les entreprises de ses rivaux comme OpenAI ou Google.

Le fabricant de puces Qualcomm, par exemple, a annoncé qu’il allait mettre à disposition des “implémentations d’IA basées sur Llama 2” pour ses puces pour smartphones et PC à partir de 2024.

“Alors que de nombreuses entreprises ont choisi de construire l’IA à huis clos, nous publions ouvertement Llama 2 pour encourager l’innovation responsable en matière d’IA. Sur la base de notre expérience, une approche ouverte s’appuie sur la sagesse collective, la diversité et l’ingéniosité de la communauté des praticiens de l’IA pour réaliser les avantages de cette technologie. La collaboration rendra ces modèles meilleurs et plus sûrs », ont déclaré les scientifiques de Meta dans un document de recherche.

“Enfin, la diffusion ouverte de ces modèles consolide les coûts et élimine les barrières à l’entrée, permettant aux petites entreprises de tirer parti des innovations dans [large language models] pour explorer et créer des cas d’utilisation de génération de texte. En fin de compte, nous pensons que cela créera des conditions plus équitables pour les organisations de toutes tailles à travers le monde afin de bénéficier de la croissance économique promise par l’avancement de l’IA.” ®