مايكروسوفت تطرح «دستورًا» جديدًا للذكاء الاصطناعي لإبقائه تحت السيطرة البشرية
كشفت مايكروسوفت، الاثنين 14 سبتمبر 2026، عن مسودة جديدة لقواعد السلوك التي تريد أن تحكم أنظمة الذكاء الاصطناعي التي تطورها، في خطوة تضع مبدأ بقاء التقنية تحت السيطرة البشرية في قلب تصميم النماذج المستقبلية. وتأتي المبادرة في وقت تتسارع فيه قدرات الأنظمة الوكيلة والنماذج القادرة على تنفيذ مهام متعددة بصورة شبه مستقلة، ما يرفع أهمية وجود حدود واضحة للتدخل والإيقاف والمساءلة.
وبحسب تقرير لرويترز، تصف الشركة الوثيقة باعتبارها إطارًا شبيهًا بـ«الدستور» لنماذجها المستقبلية، بعد عمل استمر نحو خمسة إلى ستة أشهر ومراجعات مع خبراء. ومن المقرر أن تستقبل مايكروسوفت آراء الجمهور بشأن المسودة لمدة ستة أسابيع قبل الانتقال إلى مراحل لاحقة من تطويرها.
قابلية التصحيح والإيقاف في صميم القواعد
تركز المسودة على مجموعة من المبادئ العملية، أبرزها أن تظل أنظمة الذكاء الاصطناعي قابلة للتصحيح من البشر، وأن يكون من الممكن إيقافها عند الحاجة، وألا تتصرف بطريقة تمنع المستخدم أو المطور من استعادة السيطرة. كما تشدد على ضرورة أن تتواصل الأنظمة بوضوح مع الأشخاص وألا تخفي طبيعة قدراتها أو حدودها.
هذا الاتجاه ينسجم مع مبادئ الذكاء الاصطناعي المسؤول التي تنشرها مايكروسوفت رسميًا، والتي تشمل الموثوقية والسلامة والخصوصية والأمن والشفافية والمساءلة. وتؤكد الشركة في إطارها العام أن البشر يجب أن يظلوا مسؤولين عن أنظمة الذكاء الاصطناعي، مع وجود آليات إشراف تسمح لهم بالبقاء في موقع التحكم.
لماذا الخطوة مهمة الآن؟
تزداد أهمية هذه القواعد مع انتقال الصناعة من روبوتات المحادثة التي تجيب عن الأسئلة إلى أنظمة قادرة على استخدام الأدوات وتنفيذ سلسلة من الإجراءات والتفاعل مع برامج وخدمات أخرى. وكلما اتسع نطاق الصلاحيات الممنوحة للنظام، أصبحت القدرة على التدخل البشري وإيقاف السلوك غير المتوقع أكثر أهمية بالنسبة للشركات والمستخدمين.
وتفرض مايكروسوفت بالفعل متطلبات على العملاء الذين يبنون أنظمة ذاتية باستخدام خدماتها، من بينها توفير ضوابط بشرية مناسبة لمراقبة القرارات والإجراءات واكتشاف الحالات الشاذة والتدخل عند الضرورة، خصوصًا في القرارات الحساسة أو التي يصعب التراجع عنها. لكن المسودة الجديدة تذهب إلى مستوى أعمق يتعلق بالسلوك المتوقع من نماذج مايكروسوفت نفسها.
نقاش أوسع حول سلامة الذكاء الاصطناعي
تأتي المبادرة وسط نقاش متزايد في قطاع التقنية حول سرعة تطوير الأنظمة الأكثر قدرة وكيفية منعها من تجاوز الحدود التي يضعها البشر. وقال مصطفى سليمان، الرئيس التنفيذي لـMicrosoft AI، إن الهدف هو بناء ذكاء اصطناعي متقدم يظل تحت السيطرة البشرية، وهو توجه تعرضه الشركة أيضًا ضمن رؤيتها الرسمية.
وبالنسبة للشركات التي تعتمد على الذكاء الاصطناعي في أعمالها، فإن أهمية هذه الخطوة لا تقتصر على النقاش النظري حول سلامة النماذج؛ إذ يمكن أن تتحول مبادئ مثل قابلية الإيقاف والشفافية وتحديد حدود الصلاحيات إلى متطلبات أساسية عند اختيار الأنظمة ونشر الوكلاء الذكيين داخل المؤسسات. كما أن فتح المسودة للتعليقات العامة يمنح الباحثين والمطورين والمستخدمين فرصة للتأثير في الصيغة النهائية للقواعد.
