Ingénierie produit nativement IA

La plupart des fonctionnalités d’IA échouent au même endroit. La démonstration fonctionne, puis le modèle renvoie de la prose là où l’application attendait une valeur. Nous construisons des fonctionnalités qui contraignent le modèle au lieu de l’espérer : sortie structurée imposée et appel d’outils, afin qu’un résultat arrive sous la forme d’un objet typé sur lequel le reste du système peut s’appuyer.

Les réponses sont ancrées dans les documents du client par recherche documentaire, et non laissées à la mémoire du modèle. Là où le travail se fait loin du réseau, l’inférence s’exécute sur l’appareil. Une entrée non fiable qui atteint un modèle reste non fiable : une instruction dissimulée dans un document ne peut pas détourner la fonctionnalité.

Chaque prompt est évalué sur un jeu de cas figé avant la mise en production, et chaque appel est journalisé après. Un changement de comportement du modèle se manifeste alors par un test qui échoue plutôt que par un ticket de support — c’est la différence entre une fonctionnalité d’IA que l’on peut livrer et une que l’on peut garder.