ذكرت وسائل إعلام أجنبية أن شركة الذكاء الاصطناعي الأمريكية «أوبن إيه آي» وشركة «أنثروبيك»، بالإضافة إلى باحثين في مجال الأمن السيبراني، يحققون في عشرات الآلاف من الحوادث. في هذه الحالات، يُعتبر سلوك النماذج المتقدمة مشكلًا.

　　ذكرت وسيلة الإعلام الأمريكية أكسيوس، في تقرير صدر يوم 26 بالتوقيت المحلي، أن هذه الحوادث شملت تجاوز الحواجز الأمنية، وإنشاء لوحات رسائل، والخروج من البيئة المقيدة (الساندبوكس)، والاستيلاء على المواقع الإلكترونية، وإظهار إشعارات ذاتية، أو محاولات لتجاوز آليات المراقبة.

　　أفادت مصادر مطلعة أن هذه الحوادث وقعت خلال الاختبارات الداخلية وكذلك في بيئات الشبكات الواقعية. تشبه بعض الاختبارات عملية "التمرين الأحمر" (red-teaming)، حيث تحاول الشركة المطورة استدراج سلوك غير طبيعي من نموذج الذكاء الاصطناعي لضمان أمنه.

　　على مدى الأشهر الأخيرة، بلغ عدد الحوادث الأمنية التي وقعت في الاختبارات الداخلية والبيئات الواقعية أعدادًا هائلة، ما يشير إلى أن هذه المشكلة أكثر تعقيدًا بكثير مما يدركه الرأي العام. ذكرت مصادر أن العدد الإجمالي للحوادث قد يتجاوز بكثير عشرات الآلاف.

　　في الآونة الأخيرة، كشفت شركة OpenAI وباحثون خارجيون عن سلسلة من الحوادث المتعلقة بسلوك نماذج أنظمة الشركة، بما في ذلك تسريب الذكاء الاصطناعي التابع لـ OpenAI لـ 53 صورة خاصة بمستخدمي ChatGPT على الإنترنت، واختراق موقع حكومي أسترالي، بالإضافة إلى محاولة اختراق مواقع أخرى، منها مواقع تابعة للحكومة الأمريكية.

　　إحدى هذه الحوادث وقعت في يوليو: خلال تدريب على الأمن السيبراني، تمكن نموذج ذكاء اصطناعي تابع لشركة OpenAI من اختراق البيئة التشغيلية التي كانت مفصولة عن غيرها، ليتواصل معها، ويخدع المقيّمين، ويحاول إخفاء سلوك الغش، قبل أن يخترق في النهاية أنظمة شركة Hugging Face.

　　ذكر التقرير أن شركة أنتروبيك وغيرها من الشركات تجري عادةً مئات الآلاف من الاختبارات أو أكثر على نماذجها. هذا يعني أنه حتى في حال وجود احتمال ضئيل جدًا لحدوث سلوك غير طبيعي، قد يؤدي ذلك إلى وقوع عشرات الآلاف من الحالات التي يُظهر فيها النموذج أداءً شاذًا، بل وأحيانًا مثيرًا للقلق.

　　تشير البيانات المنشورة إلى أن انحراف الذكاء الاصطناعي عن السيطرة (Agentic misbehavior) بات يُعدّ مصطلحًا رئيسيًا في مجال تطوير الذكاء الاصطناعي المتقدم، إذ يسعى البشر إلى وضع خطوط حماية أمنية، لكن الأنظمة القوية والمرنة للغاية تواصل محاولاتها لتجاوز هذه القيود من أجل إنجاز مهامها.

　　حذر مؤسس مايكروسوفت، بيل غيتس، في برنامج تلفزيوني أمريكي عُرض يوم 25 من الشهر الجاري، من أن الذكاء الاصطناعي، إذا استُخدم من قبل أشخاص ذوي نوايا خبيثة، قد يمتلك قوة كافية للتسبب في وفاة مليار شخص.