Jev : l'IA qui ne parle pas mais décide, et ce que cela change pour le contact client

Ce qui s'est passé ce mois-ci

Le 15 septembre, TypeSafe AI, le laboratoire fondé par l'ancien chercheur d'OpenAI Diogo Almeida, a publié un modèle nommé Jev. Il est arrivé avec 40 millions de dollars de financement d'amorçage et une affirmation qui a fait réagir les développeurs : ce modèle n'écrit pas de texte. Il répond à une question délimitée, dans un format fixe, avec un pourcentage qui indique à quel point il est sûr. Et il le fait en 70 à 500 millisecondes.

Vercel a intégré Jev à son AI Gateway et l'a qualifié de modèle adopté le plus rapidement de l'histoire de la plateforme. TypeSafe le décrit comme un modèle 'System One', d'après le mode de pensée rapide et intuitif des travaux de Daniel Kahneman. Un modèle de langage ordinaire est System Two : il raisonne, écrit, pèse. Jev fait l'autre chose : regarder, décider, terminé.

Cet article ne porte pas sur la technique. Il porte sur la raison pour laquelle cela touche précisément la décision sur laquelle le contact client par IA bute depuis des années.

Ce qu'est réellement un modèle System One

Vous donnez au modèle deux choses : la situation (un e-mail, la transcription d'un appel, un fichier de logs) et une question avec un nombre limité de réponses possibles. Le modèle en choisit une et indique son niveau de confiance. Rien de plus.

Jev connaît trois types de questions. Un choix : lequel de ces cinq services doit traiter ceci ? Une note : quelle est l'urgence sur une échelle de 1 à 10 ? Et un oui ou non : ce client est-il mécontent ? La réponse tient toujours dans le format que vous avez défini à l'avance. Une phrase comme 'je pense que c'est peut-être la comptabilité, mais ça pourrait aussi' ne sort jamais, car ce n'est pas une réponse valide.

C'est toute l'idée. Un logiciel peut lire un pourcentage et exécuter un choix. Un logiciel ne peut pas lire un paragraphe. Un modèle de langage ordinaire produit des paragraphes, et c'est là que se trouve la friction depuis des années : vous demandez à un chatbot de décider quelque chose et vous recevez un récit qu'il faut ensuite interpréter.

Pourquoi 'ne peut pas halluciner' signifie autre chose que ce que vous espérez

TypeSafe affirme que Jev ne peut pas halluciner, et c'est vrai dans un sens précis : le modèle ne peut pas inventer une réponse en dehors de votre liste. Demandez 'quel service' avec cinq options et vous n'en obtiendrez jamais une sixième.

Il peut tout de même choisir la mauvaise parmi les cinq. La différence est dans ce qui se passe ensuite. Un modèle de langage qui se trompe paraît aussi convaincant qu'un modèle qui a raison. Jev y attache un chiffre. À 96 % de confiance, vous laissez le logiciel agir. À 61 %, vous laissez une personne regarder. Ce seuil, c'est vous qui le fixez, décision par décision, et cela vaut plus que l'infaillibilité que personne ne peut fournir.

TypeSafe précise d'ailleurs dans son propre texte de lancement que les chiffres de vitesse et de coût se situent probablement dans le haut de ce que l'on obtient en pratique, et que le modèle peut comporter des biais. Qu'un laboratoire d'IA écrive cela dans sa propre annonce est une nouvelle en soi.

La décision la plus difficile du contact client par IA n'est pas la réponse

Quiconque met un assistant IA au téléphone, dans le chat du site ou sur WhatsApp pense d'abord à une question : sait-il bien répondre ? Après un an de pratique, ce n'est plus le problème. Le problème, c'est l'autre question, celle qui se pose des centaines de fois par jour : faut-il passer la main à une personne, maintenant ?

Un appelant dont le délai expire. Un client qui pose la même question pour la troisième fois. Un message à vingt-trois heures avec le mot 'urgent' dedans. Chacun de ces moments est une décision avec un nombre limité d'issues : traiter soi-même, transférer en mode chaud, enregistrer une demande de rappel. C'est exactement le type de question pour lequel Jev a été conçu, et exactement le type de question sur lequel vous laissez encore aujourd'hui un modèle de langage écrire un paragraphe.

Chez Heyloha, vous définissez par contact et par créneau si l'assistant transfère en mode chaud ou froid, et ce qui se passe si personne ne décroche. L'assistant reconnaît l'urgence à partir de vos instructions. Cela fonctionne, mais la décision sous-jacente vient du même modèle qui mène la conversation. Les modèles System One séparent les deux : un modèle parle, un autre décide, en une demi-seconde et avec un score de confiance que vous pouvez fixer comme seuil.

Pour être clair : Heyloha ne fonctionne pas sur Jev aujourd'hui. Le modèle a deux semaines et il est en accès anticipé. Mais la direction est claire, et nous ne sommes pas les seuls à la regarder.

Ce que cela change pour le coût et la vitesse

TypeSafe facture 42 dollars par milliard de tokens en entrée et rien pour la sortie. Selon leurs propres mots, trop bon marché pour être mesuré. Faire prendre une décision à un modèle de langage ordinaire coûte quelques secondes et quelques centimes. La faire prendre à un modèle System One coûte une demi-seconde et presque rien.

Cela paraît technique, mais cela change ce qui est faisable pour une entreprise de vingt personnes. Faire évaluer l'urgence de chaque appel entrant avant que quelqu'un ne décroche était jusqu'ici réservé aux centres d'appels dotés d'un service informatique. Si cette évaluation ne coûte rien et ne fait attendre personne, cela devient quelque chose que l'on active, simplement.

Il en va de même pour le contrôle a posteriori. Un second modèle qui vérifie chaque réponse de l'IA avant qu'elle ne parte (est-ce cohérent avec la base de connaissances, y a-t-il ici un prix qui n'existe pas) était trop lent et trop cher pour être fait par défaut. À 200 millisecondes par vérification, ce n'est plus le cas.

Ce que vous devez en faire maintenant

Vous n'avez pas à choisir un modèle. Trois choses sont à votre portée, quel que soit votre fournisseur.

Écrivez vos règles de transfert comme des décisions avec un nombre limité d'issues. Pas 'transférer les clients importants', mais : quelles situations, quelles issues, quel seuil. Si vous ne pouvez pas l'écrire comme un choix entre cinq options, aucun modèle ne pourra le décider pour vous.

Fixez, décision par décision, le niveau de certitude requis de l'IA. Prendre un rendez-vous peut se faire à 80 %. Marquer une réclamation comme résolue seulement à 98 %, sinon à un collègue. Ces chiffres relèvent de la politique, pas de la technique, et ils vous appartiennent.

Gardez une personne aux commandes pour tout ce qui a des conséquences. TypeSafe le dit aussi : le modèle donne une probabilité, l'application décide de ce qu'elle en fait. Ce n'est pas une limite de la technique, c'est ainsi que cela doit être.

Voyez-le en pratique

Vous voulez voir comment un assistant IA décide déjà aujourd'hui quand transférer, reconnaît l'urgence ou enregistre une demande de rappel ? Réservez une démo de trente minutes, et nous passerons vos règles de transfert en revue ensemble. Ou essayez Heyloha gratuitement pendant quatorze jours sur votre propre numéro et votre site.

Questions fréquentes sur Jev et les modèles System One