بدأت مايكروسوفت مبادرة للشفافية في الذكاء الاصطناعي، وهي جهد مشترك مع العملاء والشركاء لوضع نهج مفتوح ومشترك لتأمين الذكاء الاصطناعي وحوكمته عبر مختلف النماذج والجهات المزوِّدة. ووفقًا لمايكروسوفت، أعلن عنها رئيس مجلس الإدارة والرئيس التنفيذي ساتيا ناديلا يوم الثلاثاء 17 نوفمبر 2026 في فعالية Ignite.

إعلان

الفجوة التي تصفها مايكروسوفت

تقول مايكروسوفت إن المؤسسات تستطيع رؤية جانب كبير من النشاط المحيط بنماذج الذكاء الاصطناعي، لكنها كثيرًا ما تعجز عن تجميع ما حدث بين الطلب ونتيجته، مما يجعل التحقق المستقل من سلوك النموذج أمرًا صعبًا. فالمؤسسات تربط النماذج بالبيانات والأدوات وبيانات الاعتماد والبنية التحتية، ما يتيح للوكلاء التصرف دون أن يوافق شخص على كل خطوة. ووفق رواية مايكروسوفت، لا تستطيع الضوابط الحالية رؤية ما بداخل النماذج ولا تأكيد ما تفيد به النماذج عن نفسها.

وتسمي الشركة ذلك فجوة أدلة تولّد مخاطر أمنية ومخاطر تتعلق بالامتثال والتدقيق والمساءلة. وتقول إن الوكلاء الذين يملكون هذا النوع من الوصول يشبهون من حيث المخاطر شخصًا من الداخل يتمتع بصلاحيات متقدمة، لكنهم يعملون بسرعة الآلة وعلى نطاقها.

ثلاثة أجزاء في الخطة

  • ستضطلع مايكروسوفت بدور أكبر في مبادرة معايير الوكلاء SI Agent Standards Initiative التي يديرها المعهد الوطني للمعايير والتكنولوجيا، وستستخدم أبحاثها في سبيل معايير مفتوحة على مستوى القطاع للشفافية والأمن والحوكمة في الذكاء الاصطناعي.
  • تقول مايكروسوفت إنها تتعاون مع أكثر من 40 مؤسسة، من بينها أكسنتشر وأدوبي وكيه بي إم جي وماستركارد وفولفو للسيارات، على معايير مفتوحة تهدف إلى جعل أنظمة الذكاء الاصطناعي خاضعة للمساءلة وقابلة للتحقق المستقل، أيًّا كان النموذج أو الجهة المزوِّدة.
  • سيتم دمج هذا العمل في Microsoft AI وMicrosoft Foundry وMicrosoft Copilot، بما يتيح للعملاء الجمع بين الأدلة الناتجة وأدوات الأمن والامتثال من مايكروسوفت أو من جهات أخرى.

تقول مايكروسوفت إن التصميم يهدف إلى شمول النماذج المغلقة والنماذج مفتوحة الأوزان، بحيث تستطيع فرق التطوير تغيير النماذج الكامنة وراء وكلائها، بينما يحتفظ العاملون في تقنية المعلومات والأمن والامتثال بقدرتهم على حوكمتها وتدقيقها.

الرؤية والتحقق والتحكم

تصوغ مايكروسوفت موقفها في ثلاثة مبادئ. ينبغي للمؤسسات أن ترى ما تصل إليه أنظمة الذكاء الاصطناعي وما تفعله، وأن تتحقق من تلك الإجراءات بشكل مستقل، وأن تتحكم في ما يُسمح للأنظمة بفعله. وفيما يتعلق بالتحقق، ترى مايكروسوفت أنه لا ينبغي أن يكون الوكلاء المصدر الوحيد للحقيقة بشأن سلوكهم. وفيما يتعلق بالتحكم، تقول إن الأدلة ينبغي أن تبقى لدى المؤسسة إذا تغيرت النماذج أو الجهات المزوِّدة.

وقالت هايتي غالو، نائبة الرئيس التنفيذي لأمن مايكروسوفت، إن هذا العمل سيجلب مزيدًا من الشفافية إلى جميع النماذج ويساعد في إرساء المساءلة وقابلية التتبع. كما يتضمن الإعلان بيانات دعم من آنشال غوبتا من أدوبي، وجون إسرائيل من كيه بي إم جي الدولية، وهاربريت سيدهو من أكسنتشر. والمادة إعلان صادر عن الشركة، أما المعايير التي يصفها فلا تزال قيد التطوير.

إعلان

المصادر