Pourquoi Jev fait parler de lui : cette IA annonce être bien plus rapide et bien moins chère que les grands modèles

Author:

Et si l’intelligence artificielle pouvait être quasi instantanée, bien moins chère à utiliser, et, cerise sur le gâteau, incapable d’halluciner ? C’est le pari relevé par Diogo Almeida, ancien chercheur chez Google Brain et OpenAI, qui a fondé la startup TypeSafe AI. Il vient de présenter une toute nouvelle classe de modèles baptisée « System One ». Le premier modèle s’appelle Jev, et il est très prometteur.

Selon TypeSafe AI, Jev est 193 fois plus rapide et 444 fois moins cher qu’un grand modèle de langage. Pour preuve, il ne coûte que 0,042 dollar par million de tokens en entrée, et les tokens en sortie sont gratuits. De plus, les grands modèles de langage fonctionnent de manière séquentielle, générant un token à la fois. Jev fonctionne en parallèle, ce qui lui permet de sortir une réponse complète en seulement 70 à 500 millisecondes. Et s’il peut se tromper, il est incapable d’halluciner.

Des réponses sous forme de probabilités plutôt que de phrases

Mais, parce qu’il y a forcément un mais, il y a une contrepartie. Il ne s’agit pas d’un chatbot. Il ne répond pas sous forme de phrases. Il se rapproche davantage d’un questionnaire à choix multiples (QCM) et a été conçu pour interagir avec des machines plutôt qu’avec des humains. Soumettez une requête sous forme de données structurées avec plusieurs réponses possibles, et il répond avec une probabilité pour chaque réponse, et un score de confiance. Puisqu’il est limité aux réponses prédéterminées et ne peut pas en inventer de nouvelles, cela rend les hallucinations impossibles. Il peut néanmoins se tromper.

Les chatbots ne suffisent plus : la « marraine de l’IA » veut lui apprendre à voir le monde en 3D

Surnommée la « marraine de l’IA », Fei-Fei Li a joué un rôle majeur dans l’essor de l’intelligence artificielle moderne. De son arrivée aux États-Unis à l’adolescence à ses travaux sur la vision par ordinateur, son parcours l’a progressivement conduite à défendre une autre manière de penser l’IA. Aujourd’hui, la chercheuse de Stanford regarde déjà au-delà des modèles de langage…. Lire la suite

Son utilisation est donc très technique, et Jev est avant tout destiné aux développeurs. Pour illustrer ses capacités, TypeSafe AI a publié une démonstration dans laquelle l’IA joue au jeu Doom. Il ne « voit » pas le jeu, il reçoit toutes les informations par texte, mais il est suffisamment rapide pour prendre 10 décisions à la seconde. Sur les réseaux sociaux, les premières personnes à y avoir accès ont montré qu’il était capable de naviguer sur des pages Web de manière extrêmement rapide, et pourrait donc trouver sa place dans les agents IA. En revanche, ne lui demandez pas de rédiger une dissertation ou de vous trouver une recette de cuisine…

 

Leave a Reply

Your email address will not be published. Required fields are marked *