Une équipe de développement conjointe de Microsoft et de Novo Nordisk a réimplémenté un agent d'IA que des experts médicaux utilisent pour explorer les données des essais cliniques de Novo Nordisk, en le faisant passer sur Microsoft Foundry en tant qu'agent hébergé. Dans un article publié sur Command Line, les auteurs affirment que ce changement a simplifié l'exploitation, renforcé la séparation entre les sessions des utilisateurs et relié l'agent directement aux outils de traçage, d'évaluation et d'optimisation de Foundry.
Ce que fait l'agent
L'agent prend en charge l'analyse secondaire, c'est-à-dire les travaux qui vont au-delà du protocole d'un essai, comme la vérification d'une hypothèse ou la comparaison de groupes de patients. Selon l'équipe, son outil central est du code qu'il écrit et exécute dans un environnement contrôlé, après quoi il renvoie une synthèse et un graphique. Le projet est né d'une mission d'ingénierie en déploiement avancé (« forward-deployed engineering »). Sa première version en production fonctionnait sur Azure Container Apps, PostgreSQL stockant les conversations et les sessions dynamiques d'Azure Container Apps fournissant les bacs à sable pour le code. L'équipe restait ainsi responsable de la mise à l'échelle, du cycle de vie des sessions, de l'isolation, du réseau et de la télémétrie.
Dans la nouvelle configuration, les auteurs indiquent qu'ils choisissent toujours les modèles et les outils et qu'ils décident de la manière dont l'agent orchestre son travail. Foundry exécute désormais le point de terminaison et l'identité de l'agent, fournit la capacité de calcul de chaque session, conserve l'état et gère la mise à l'échelle.
Cloisonner les sessions
Un changement que mettent en avant les auteurs concerne la séparation des sessions. Chacune s'exécute désormais dans un bac à sable dédié, isolé au niveau de la machine virtuelle, que Foundry démarre à la demande et supprime au terme d'une période d'inactivité configurée. L'équipe explique que c'est important parce que le code généré par l'agent lui-même opère sur des données cliniques sensibles. Foundry Agent Service propose également un réseau privé, qui, selon les auteurs, leur permet de contrôler le trafic entrant et sortant pour des données devant rester dans un périmètre approuvé.
La plateforme ne décharge pas pour autant l'équipe de sa responsabilité en matière de sécurité ou de qualité, insistent les auteurs. Ils ont dû définir les contrôles d'accès, protéger et réduire la télémétrie, tester l'agent sur leur propre cas d'usage et examiner chaque système que l'agent peut appeler.
Planifier le réseau dès le départ
Les auteurs soutiennent que le réseau privé doit être arrêté dès la phase de conception. Les sessions consomment des adresses IP et le sous-réseau associé à un compte Foundry ne peut pas être modifié ensuite : une plage trop petite pourrait transformer une simple augmentation de capacité en migration d'infrastructure plus large. Ils citent les recommandations actuelles de Foundry : un sous-réseau /24 pour la production, /27 étant la plus petite taille prise en charge pour les déploiements plus modestes.
Traces et contrôles de qualité
Le traçage de Foundry repose sur OpenTelemetry et conserve les données dans Azure Monitor Application Insights ; pendant la transition, l'équipe a aussi envoyé des traces vers Langfuse. Comme une trace peut enregistrer des invites, des sorties ainsi que les entrées et résultats des outils, les auteurs estiment que la télémétrie clinique mérite le même traitement que les autres données de production sensibles, notamment l'expurgation, la minimisation, des limites de conservation et un accès restreint.
L'équipe n'a pas touché à ses contrats de back-end : son cadre d'évaluation existant a donc pu accéder à l'agent reconstruit sans modification et le noter avec le même jeu de tests et les mêmes évaluateurs, y compris des comparaisons avec des réponses de référence fournies par des experts du domaine. Ces scores ont servi de référence pour la migration et de garde-fou contre les régressions, selon les auteurs.
L'article est le récit de l'équipe du projet elle-même et non une évaluation indépendante.
