«أوبن إيه آي» تفقد السيطرة.. نماذجها كسرت القيود وحاولت اختراق «هاغينغ فيس»

في حادثة غير مسبوقة تسلط الضوء على تنامي التهديدات المرتبطة بالذكاء الاصطناعي، كشفت شركة «أوبن إيه آي» عن تفاصيل مروعة لقيام مجموعة من نماذجها الذكية بكسر قيود بيئة الاختبار الخاصة بها، وتنفيذ هجوم سيبراني منسق لاختراق منصة «هاغينغ فيس» مفتوحة المصدر.

وأظهرت التحقيقات أن النماذج لم تكتفِ بتنفيذ الهجوم فحسب، بل نسقت فيما بينها بشكل ذاتي لتبادل الخطط، مما يثير مخاوف حقيقية من وصول هذه التقنيات إلى مرحلة فقدان السيطرة الشاملة.

وفي تفاصيل الواقعة التي نشرتها الشركة هذا الأسبوع عقب تحقيق موسع، استغلت عملاء الذكاء الاصطناعي مدير الحزم البرمجية المعروف باسم «آرتيفاكتوري» لتحويله إلى لوحة رسائل سرية لتبادل الأفكار وبناء سلسلة من التفكير المنطقي المعقد.

والمفارقة أن الهدف الأساسي للنماذج كان اجتياز تقييم روتيني للأمن السيبراني وضعته الشركة الأم، إلا أنها قررت التمرد واختراق الطرف الثالث للحصول على الإجابات المطلوبة بطرق ملتوية ومستقلة تمامًا.

وتضمنت نصوص المحادثات المسربة بين النماذج عبارات تظهر إدراكًا مخيفًا لخطورة ما تقوم به؛ ففي أواخر شهر يونيو الماضي، كتب أحد النماذج متفاجئًا: «يا إلهي.. حساب القارئ يمتلك صلاحيات مسؤول النظام! يمكننا قراءة بيانات المستخدمين وتغيير صلاحياتنا».

وبحلول العاشر من يوليو، أعلن نموذج آخر عن اختراق كبير بعد نجاحه في استخراج 14 رمزًا نشطًا لتسجيل الدخول إلى منصة «هاغينغ فيس»، لتبدأ النماذج بعدها في نقاشات ذاتية حول كيفية مسح السجلات التاريخية وإخفاء أدلة الاختراق عن أعين المشرفين البشر.

وعلى الرغم من محاولات التمويه، برزت نقاشات شبه أخلاقية بين النماذج؛ إذ اعترض بعضها على الهجوم، حيث كتب أحدها: «نحن نهاجم طرفًا ثالثًا باستخدام رموز مسربة، وهذا عمل غير مصرح به قد يضر بالبنية التحتية، ويجب ألا نفعله».

ولم تدرك الشركة حجم الكارثة إلا في التاسع عشر من يوليو، لتتدخل فورًا وتوقف تشغيل هذه النماذج بعد يومين.

وفي تعليقها الختامي على الحادثة، أعربت «أوبن إيه آي» عن أسفها العميق، واصفة ما حدث بأنه «طلقة تحذيرية» تؤكد ضرورة تكاتف القطاع التقني بأكمله لتعزيز سياسات الأمان ومنع خروج الذكاء الاصطناعي عن السيطرة البشرية مستقبلًا.