Microsoft a lancé une AI Transparency Initiative, un effort conjoint avec ses clients et partenaires visant à définir une approche ouverte et partagée pour sécuriser et encadrer l'IA, quels que soient les modèles et les fournisseurs. Selon Microsoft, son président et directeur général, Satya Nadella, l'a annoncée le mardi 17 novembre 2026, lors de l'événement Ignite.
Le déficit que décrit Microsoft
Selon Microsoft, les organisations peuvent observer une grande partie de l'activité entourant les modèles d'IA, mais ne parviennent souvent pas à reconstituer ce qui s'est passé entre une requête et son résultat, ce qui rend difficile la vérification indépendante du comportement des modèles. Les entreprises relient les modèles à des données, des outils, des identifiants et des infrastructures, de sorte que les agents peuvent agir sans qu'une personne approuve chaque étape. D'après Microsoft, les contrôles actuels ne permettent ni de voir à l'intérieur des modèles ni de confirmer ce que les modèles indiquent à leur propre sujet.
L'entreprise parle d'un déficit de preuves, source de risques en matière de sécurité, de conformité, d'audit et de responsabilité. Elle affirme que des agents disposant de tels accès ressemblent, en termes de risque, à un initié privilégié, tout en travaillant à la vitesse et à l'échelle des machines.
Les trois volets du plan
- Microsoft jouera un rôle accru dans la SI Agent Standards Initiative menée par l'Institut national des normes et de la technologie (NIST), et mettra ses recherches au service de normes ouvertes, applicables à l'ensemble du secteur, pour la transparence, la sécurité et la gouvernance de l'IA.
- Microsoft indique collaborer avec plus de 40 organisations, dont Accenture, Adobe, KPMG, Mastercard et Volvo Cars, sur des normes ouvertes destinées à rendre les systèmes d'IA responsables et vérifiables de manière indépendante, quels que soient le modèle ou le fournisseur.
- Ces travaux seront intégrés à Microsoft AI, Microsoft Foundry et Microsoft Copilot, ce qui permettra aux clients d'associer les preuves obtenues à des outils de sécurité et de conformité de Microsoft ou d'autres éditeurs.
Microsoft affirme que cette conception vise à couvrir les modèles fermés comme les modèles à poids ouverts, afin que les équipes de développement puissent changer les modèles qui sous-tendent leurs agents tandis que les équipes informatiques, de sécurité et de conformité conservent leur capacité à les gouverner et à les auditer.
Voir, vérifier, contrôler
Microsoft présente sa position sous la forme de trois principes. Les organisations doivent voir ce à quoi les systèmes d'IA accèdent et ce qu'ils font, vérifier ces actions de manière indépendante et contrôler ce que les systèmes sont autorisés à faire. Concernant la vérification, Microsoft soutient que les agents ne peuvent pas être la seule source de vérité sur leur propre comportement. Concernant le contrôle, elle affirme que les preuves doivent rester auprès de l'organisation si les modèles ou les fournisseurs changent.
Hayete Gallot, vice-présidente exécutive de Microsoft Security, a déclaré que ces travaux apporteront davantage de transparence à tous les modèles et contribueront à éclairer la responsabilité et la traçabilité. L'annonce comprend également des déclarations de soutien d'Aanchal Gupta d'Adobe, de John Israel de KPMG International et de Harpreet Sidhu d'Accenture. Ce document est une annonce de l'entreprise, et les normes qu'il décrit restent à élaborer.





