Le moteur de routage Netaix : comment la plateforme choisit le bon modèle IA

Cet article explique comment ce moteur fonctionne, pourquoi nous l'avons construit comme un service à part plutôt que comme une simple option, et ce que cela change concrètement, y compris pour une équipe technique qui voudrait s'y brancher directement.

Pourquoi un routeur, et pas un seul modèle

Aucun modèle d'IA n'est le meilleur choix pour tout. Certains raisonnent mieux sur des problèmes complexes, d'autres répondent plus vite à des questions simples, d'autres encore sont plus adaptés à une image, un document ou une recherche d'information récente. Deux approches naïves existent pour gérer cette réalité.

La première consiste à toujours appeler le modèle le plus performant, par prudence. Elle fonctionne, mais elle fait payer le tarif du haut de gamme à une question de trois mots qui n'en avait pas besoin. La seconde consiste à toujours appeler un modèle rapide et économique. Elle fonctionne aussi, jusqu'au jour où un dossier complexe reçoit une réponse superficielle.

Notre réponse a été de construire un service dont le seul travail est de faire ce choix, message par message, sans que la personne qui utilise Netaix ait à y penser.

Un service à part, isolé du reste de l'application

Le moteur de routage n'est pas une fonction rangée dans le code de l'application. C'est un service séparé, avec son propre conteneur et sa propre entrée réseau, joignable uniquement depuis le réseau privé de notre infrastructure. Il n'est jamais accessible depuis l'internet public. Chaque espace de travail dispose de sa propre clé d'authentification pour l'interroger, et les appels sont soumis à une limite de débit.

Ce choix d'architecture n'est pas cosmétique. Un service isolé peut évoluer, être mis à jour ou redémarré indépendamment du reste de la plateforme, sans jamais exposer de nouvelle porte d'entrée vers l'extérieur. C'est la même logique de cloisonnement que nous appliquons partout ailleurs sur Netaix : moins un composant est exposé, moins il offre de prise.

Comment le moteur lit un message

Quand un message arrive, le moteur ne se contente pas de regarder des mots-clés. Il qualifie la demande sur trois axes : l'intention (que cherche à obtenir la personne), la modalité (texte, image, document, recherche) et le rapport entre le coût et la qualité nécessaire pour bien répondre.

De cette qualification découle un palier : rapide, équilibré, expert ou raisonnement. Le palier détermine ensuite quel modèle va effectivement traiter la demande. Le catalogue compte 76 modèles actifs répartis chez cinq fournisseurs (Anthropic, OpenAI, Google, Mistral et Perplexity), dont 68 que vous pouvez choisir vous-même et 34 que le moteur est autorisé à sélectionner pour vous.

Une reformulation d'e-mail ne mobilise pas les mêmes ressources qu'une analyse de contrat de dix pages ou qu'un problème de raisonnement à plusieurs étapes. Le moteur ajuste ce choix à chaque message, y compris à l'intérieur d'une même conversation.

Douze leviers, actifs par défaut pour tous les clients

Le choix du palier et du modèle n'est que la première décision. Douze leviers de routage s'appliquent ensuite, activés par défaut, sans configuration à faire. En voici six, choisis parce qu'ils se voient directement dans la conversation :

• Le verrou de langue : la réponse revient dans la langue de la question posée, sans bascule inattendue.
• La continuité du modèle : à l'intérieur d'une même conversation, le moteur évite de changer de modèle en cours d'échange, ce qui éviterait un changement de ton perceptible.
• La cascade d'escalade : le moteur peut monter en palier si une demande s'avère plus exigeante que prévu, mais exclut les questions triviales de ce mécanisme pour ne pas les faire transiter inutilement par un palier supérieur.
• La détection d'intention sémantique : la qualification du message repose sur son sens, pas sur la présence ou l'absence de mots-clés précis.
• La régénération intelligente : quand une réponse est régénérée, le moteur privilégie un autre modèle plutôt que de rejouer le même, pour donner une véritable seconde tentative.
• Un mode document dédié : le traitement d'un document joint suit un chemin de qualification propre, distinct d'un simple message texte.

Un comportement identique, quel que soit le modèle

Au-delà du choix du modèle, le moteur sait aussi appeler des outils lui-même (rechercher une information, consulter un document, déclencher une action) et le fait de façon unifiée sur quatre fournisseurs. Concrètement, une application ou un utilisateur qui s'appuie sur cette capacité obtient le même comportement, que la demande ait été traitée par tel ou tel modèle derrière. Cette unification est un travail d'ingénierie en soi : chaque fournisseur expose ses propres conventions pour l'appel d'outils, et les harmoniser évite que le comportement de la plateforme ne varie selon le modèle choisi ce jour-là.

Et si le moteur ne répond pas

Un service supplémentaire est un point de défaillance supplémentaire, et il serait malhonnête de le passer sous silence. Un repli embarqué prend le relais si le moteur ne renvoie aucune décision avant le premier mot de la réponse : la conversation continue plutôt que de rester bloquée.

Ce que ça change, en chiffres

Sur la production, l'écart de consommation entre un message traité au palier expert et un message traité au palier rapide est mesuré à environ neuf fois : 190 crédits contre 22, en médiane. C'est exactement l'écart que le routage automatique est censé absorber : sans lui, chaque message paierait le tarif du palier le plus haut, qu'il en ait besoin ou non.

Autre mesure, tout aussi révélatrice : les 10 % d'appels les plus coûteux représentent 48,8 % de la dépense totale. La complexité réelle des demandes n'est pas répartie uniformément, elle est concentrée sur une minorité de messages. Un moteur de routage bien conçu sert précisément à faire correspondre l'effort de calcul à cette concentration, plutôt qu'à la lisser artificiellement sur l'ensemble des messages.

Pour les équipes techniques : brancher votre application sur le même moteur

Une entreprise qui développe une application métier sur mesure, un outil interne ou un connecteur, se pose habituellement une question d'intégration : à quel fournisseur d'IA s'adresser, et que faire le jour où un nouveau modèle sort et qu'il faut refaire ce travail.

En s'adressant au moteur de routage de Netaix plutôt qu'à chaque fournisseur pris séparément, une application hérite directement du même choix automatique de modèle et des mêmes compteurs de consommation que ceux utilisés dans la plateforme. L'intégration se fait une fois, à un seul point d'entrée, et reste valable quand le catalogue de modèles évolue.

En résumé

Le moteur de routage n'est pas une fonctionnalité parmi d'autres de Netaix : c'est un service séparé, avec sa propre isolation réseau, qui qualifie chaque message sur son intention, sa modalité et son rapport coût/qualité, avant de choisir un palier puis un modèle parmi 78, chez cinq fournisseurs. Douze leviers actifs par défaut affinent ensuite ce choix, un repli embarqué couvre son absence de réponse dans sa limite assumée, et une application métier peut s'appuyer sur le même point d'entrée plutôt que de recoder cette logique elle-même.

Pour une vue d'ensemble du catalogue de modèles et des paliers de routage, la page Routeur LLM détaille les versions successives de ce moteur.