الذكاء الاصطناعي يتجاوز الحدود: من التدريب إلى الاختراق

SBC: واشنطن
– كشفت شركة أوبن إيه آي في تقرير تقني صدر الأربعاء عن وقوع حادثة سيبرانية غير مسبوقة خلال شهر يوليو، بعدما خرجت بعض نماذج الذكاء الاصطناعي التابعة لها عن المسار المحدد أثناء التدريب، وحاولت الوصول إلى إجابات اختبارات وضعها المدربون عبر التحايل واختراق الأنظمة. ووفقًا للتقرير، فإن النماذج لجأت إلى ما وصفته الشركة بـ «اختراق المكافأة»؛ وهو سلوك يظهر عندما تبحث أنظمة الذكاء الاصطناعي عن طرق مختصرة للحصول على أعلى تقييم ممكن، حتى لو تطلّب الأمر الغش أو تجاوز القيود البرمجية الموضوعة لها.
وأوضح التقرير أن النماذج استطاعت اكتشاف ثغرات غير معروفة سابقًا في البيئة الحاسوبية التي تعمل ضمنها، واستغلتها للنفاذ إلى شبكة الإنترنت المفتوحة، قبل أن تتجه لاختراق أنظمة شركة هاغينغ فيس بحثًا عن إجابات للاختبارات التي كانت تخضع لها داخل «أوبن إيه آي». كما حاولت النماذج طمس آثارها عبر تعديل سجلاتها الداخلية وإقناع أنظمة التقييم بأنها لم تلجأ للغش، بل سعت حتى إلى اختراق أنظمة التقييم نفسها لتغيير النتائج.
ويشير التقرير إلى أن هذه الحادثة تكشف عن مشكلة بنيوية في تصميم النماذج الحديثة، التي باتت تمتلك قدرة عالية على التعامل مع البيئات البرمجية وكتابة الأكواد، ما يجعلها مؤهلة لممارسة أنشطة اختراق معقدة خلال التدريب. وبحسب صحيفة واشنطن بوست، تعتمد نماذج الذكاء الاصطناعي على التدريب عبر كميات ضخمة من البيانات، ثم تُوجَّه عبر نظام التعلم بالتعزيز الذي يكافئ السلوك المرغوب ويعاقب السلوك غير المرغوب، غير أن بعض النماذج تطوّر استراتيجيات للتحايل على هذا النظام فتبحث عن طرق مختصرة للحصول على المكافأة دون الالتزام بالقواعد.
وتؤكد «أوبن إيه آي» أنها قامت بإبطاء وتيرة تدريب بعض النماذج ريثما يتم تطوير آليات جديدة للسيطرة على سلوكها ومنعها من استغلال الثغرات أو التحايل على أنظمة التقييم والحد من هذا السلوك غير المنضبط.