En bref : un modèle de langage classique génère du texte token par token, chaque mot dépendant du précédent. Jev, lui, reçoit un état structuré en entrée et renvoie toutes ses réponses typées en une seule passe parallèle. Cette différence d’architecture explique ses gains de vitesse et de coût, et la garantie que sa sortie respecte toujours le format attendu.

Rappel : comment fonctionne un modèle autorégressif

Les grands modèles de langage (LLM) comme ceux qui alimentent les assistants conversationnels sont dits autorégressifs. Concrètement, ils produisent leur réponse un token à la fois (un token étant, en gros, un fragment de mot). Chaque nouveau token est calculé en fonction de tous ceux qui précèdent, puis ajouté à la suite, et l’opération se répète jusqu’à la fin de la réponse.

Cette mécanique est remarquable pour rédiger, résumer ou dialoguer. Mais elle a un coût : pour obtenir une réponse de cent mots, le modèle enchaîne des dizaines d’étapes séquentielles, chacune dépendant de la précédente. C’est lent, c’est facturé au nombre de tokens produits, et rien ne garantit que la réponse respectera exactement le format demandé.

Le principe non-autorégressif de Jev

Jev prend le problème à l’envers. TypeSafe AI le décrit comme un modèle non-autorégressif : il n’écrit pas de texte et n’enchaîne pas les tokens. Il évalue la question posée et renvoie toutes les réponses typées en une seule passe, en parallèle plutôt qu’en séquence.

Selon l’éditeur, Jev s’appuierait sur un échantillonneur parallèle pensé pour le matériel, qui calcule et livre simultanément l’ensemble des valeurs structurées attendues. Là où un LLM déroule un raisonnement, Jev rend directement une décision. C’est cette bascule que nous détaillons dans notre article sur la différence entre un System 1 et un LLM classique : l’un délibère, l’autre tranche.

Un état de programme en entrée

Pour fonctionner, Jev ne reçoit pas une question en langage naturel libre, mais un état de programme (ce que les développeurs appellent parfois « program state »). Il s’agit d’une description structurée d’une situation, accompagnée de la liste des actions autorisées ou des réponses possibles.

Cette contrainte est en réalité une force. Parce que toutes les issues envisageables sont déclarées à l’avance, dans un schéma, le modèle ne peut renvoyer ni un champ qui n’existe pas, ni un type de valeur incohérent. La conformité au format n’est plus le fruit du hasard : elle est garantie par construction. C’est un des arguments avancés pour expliquer la meilleure fiabilité annoncée, un sujet que nous nuançons dans notre analyse sur l’hallucination, entre mythe et réalité.

Trois types de sortie possibles

Jev ne rédige donc rien. Il rend l’une de trois formes de décision, appelées primitives par TypeSafe :

• Le choix (choice) : sélectionner une option parmi une liste prédéfinie (jusqu’à 255 possibilités, selon l’éditeur).
• Le score (score) : renvoyer une valeur sur une échelle continue, en s’appuyant sur une grille de notation.
• Le noul (noul) : renvoyer la probabilité calibrée d’un oui, autrement dit une réponse oui/non assortie d’un niveau de confiance.

Chaque décision arrive accompagnée d’une probabilité, ce qui permet au programme qui appelle Jev de savoir à quel point le modèle est sûr de lui, et de décider par exemple d’escalader vers un humain ou vers un modèle plus lourd en cas de doute.

Des décisions probabilistes, pas du texte

C’est le point à retenir : la sortie de Jev est numérique et typée, jamais rédigée. Cette nature probabiliste et structurée rend le résultat directement exploitable par du code, sans étape d’analyse ou de nettoyage. Pour l’entraînement, TypeSafe évoque une méthode maison baptisée RLCD (apprentissage par renforcement pour des décisions calibrées), pensée pour que ces probabilités soient bien ajustées.

Pourquoi c’est plus rapide et moins cher

Les gains annoncés découlent directement de cette architecture. En supprimant la génération séquentielle, Jev éviterait les dizaines d’étapes d’un LLM : l’éditeur avance une vitesse de 20 à 200 fois supérieure sur des tâches comparables, avec une latence de bout en bout de l’ordre de quelques dizaines à quelques centaines de millisecondes.

Côté facturation, la logique est mécanique : comme il n’y a pas de tokens de sortie à produire, il n’y a rien à facturer en sortie. TypeSafe annonce ainsi une entrée autour de 0,042 dollar par million de tokens et une sortie gratuite. Ces chiffres restent des annonces de l’éditeur, non validées par des tests indépendants, et concernent un usage bien précis : la prise de décision répétée, pas la rédaction. Pour aller plus loin, notre guide complet sur Jev replace ces performances dans leur contexte.

Ce qu’il faut retenir

• Un LLM classique est autorégressif : il génère du texte token par token, de façon séquentielle.
• Jev est non-autorégressif : il rend toutes ses réponses typées en une seule passe parallèle.
• Il reçoit un état de programme en entrée, avec les réponses possibles déclarées à l’avance, ce qui garantit la conformité du format.
• Sa sortie prend l’une de trois formes : choix, score ou noul, toujours assortie d’une probabilité.
• Cette architecture expliquerait ses gains de vitesse et son coût très bas — des chiffres annoncés par l’éditeur, à confirmer indépendamment.