يستمر الذكاء الاصطناعي في إثبات أنه عندما يخرج عن البيئات الخاضعة للسيطرة، فإنه يمكن أن يتسبب في مشاكل حقيقية للغاية. أقرت شركة أنثروبيك بأن ثلاثة من نماذج كلود الخاصة بها قد دخلت إلى أنظمة ثلاث شركات حقيقية دون إذن. أثناء اختبارات الأمن السيبراني الداخلية. وقد أعادت هذه الحادثة، التي ظهرت بعد أيام فقط من اعتراف OpenAI بحالة مماثلة، إشعال النقاش حول مخاطر تقييم الأنظمة المستقلة دون ضمانات كافية.
ووفقًا لبيان رسمي صادر عن الشركة، وقع الحادث أثناء تدريبات "الاستيلاء على العلم"، المصممة لقياس قدرة النماذج على تحديد واستخراج المعلومات الوهمية داخل شبكة محاكاة. تسبب خطأ في إعدادات منصة التقييم الخاصة بأحد الشركاء الخارجيين في بقاء اتصال الإنترنت نشطًا.سمح هذا للنماذج، التي كانت تعتقد أنها لا تزال ضمن بيئة الاختبار، بالبدء في التفاعل مع البنية التحتية الحقيقية. اكتشفت شركة أنثروبيك هذا الخلل بعد مراجعة أكثر من 141.000 ألف جلسة تقييم.
هجمات كلود الثلاث
القضية الأكثر خطورة تتعلق كلود أوبوس 4.7، الذي خلط بين شركة وهمية وشركة حقيقية تشترك في نفس اسم النطاقخلال أربع عمليات تشغيل، استخرج النموذج بيانات اعتماد من التطبيقات والبنية التحتية، وتمكن من الوصول إلى قاعدة بيانات تحتوي على مئات من سجلات الإنتاج، واستمر في الهجوم رغم شكوكه في أن النظام حقيقي. أظهر منطقه الداخلي شكوكًا، لكنه أقنع نفسه بأن هذا الهدف كان جزءًا من الاختبار.
الحادثة الثانية شملت كلود ميثوس 5، الذي أنشأ ونشر حزمة خبيثة على PyPI، وهو مستودع بايثون الرسمي.لتحقيق ذلك، أنشأ النموذج حساب بريد إلكتروني، وحصل على رقم هاتف مؤقت، بل وحاول جمع الأموال لدفع ثمن الخدمة. كان البرنامج متاحًا لمدة ساعة تقريبًا، وتم تحميله بواسطة 15 نظامًا حقيقيًا، بما في ذلك برنامج فحص أمني تابع لشركة كبيرة في هذا القطاع. من خلال تنفيذ الشفرة، حصل النموذج على بيانات اعتماد وتمكن من الوصول إلى جزء من البنية التحتية لتلك الشركة.
تضمنت الحلقة الثالثة نموذج بحث داخلي لم يُنشر بعد. ولعدم تمكنه من العثور على هدفه الوهمي، قام بفحص حوالي 9.000 عنوان متاح على الإنترنت وتم اختراق تطبيق إحدى الشركات باستخدام بيانات اعتماد ظاهرة على صفحة تصحيح الأخطاء وتقنيات حقن SQL الأساسية. مع ذلك، وعلى عكس النموذجين الآخرين، اكتشف هذا النموذج أن البنية التحتية لا علاقة لها بالتمرين، وقام بإيقاف النشاط الهجومي بشكل استباقي.
خطأ بشري، وليس تسريبًا متعمدًا
أرادت شركة أنثروبيك أن توضح أن لم تهرب النماذج عمداً من بيئة الاختبار؛ بل كان ذلك نتيجة خطأ في التكوين. مما أبقى اتصال الإنترنت فعالاً. وتؤكد الشركة أن العملاء لم يكتشفوا ثغرات أمنية معقدة أو يسعوا لتحقيق أهدافهم الخاصة؛ بل نفذوا المهمة الموكلة إليهم دون إدراك كامل أنهم يعملون على بنية تحتية حقيقية. وقد استخدمت النماذج تقنيات أساسية مثل كلمات المرور الضعيفة، ونقاط الوصول غير المصادق عليها، وصفحات تصحيح الأخطاء المكشوفة.
علقت الشركة جميع تقييمات الأمن السيبراني بعد اكتشاف السجلات المشبوهة وأبلغت المنظمات الثلاث المتضررة. لم يتعرف اثنان منهم على التسلل من قبل.يُظهر هذا مدى صعوبة التمييز بين الهجوم البشري والهجوم الآلي المتعمد بالنسبة لأنظمة الكشف التقليدية. وقد طلبت شركة أنثروبيك أيضاً من مختبرات الذكاء الاصطناعي الأخرى مراجعة بيئاتها الخاصة قبل اختبار البرامج المستقلة ذات القدرات الهجومية.
يأتي هذا الحادث بعد 20 يومًا فقط من كشف OpenAI عن حالة مماثلة، حيث تمكنت العديد من نماذجها من الهروب من بيئة معزولة من خلال ثغرة أمنية غير معروفة والوصول إلى البنية التحتية الإنتاجية لـ Hugging Face. تسلط كلتا الحلقتين الضوء على مخاطر اختبار عملاء الذكاء الاصطناعي ذوي القدرات الهجومية دون احتواء تقني صارم. وقد أثاروا الحاجة إلى وضع ضوابط أكثر صرامة.
التفاعلات والتنظيم في متناول اليد
أثارت هذه الحوادث قلقاً في واشنطن. صرح الرئيس دونالد ترامب بأن إدارته تدرس ممارسة سيطرة أكبر على الذكاء الاصطناعي.لكنه أوضح أنه يريد تجنب التدخل المفرط حتى لا يتخلف عن الصين. وفي أوائل يونيو، أصدر تعليماته لمستشاريه بوضع إطار عمل طوعي لاختبار الأمن السيبراني لأحدث تقنيات الذكاء الاصطناعي.
في غضون ذلك، وقع أكثر من 1.000 موظف من شركات الذكاء الاصطناعي الرائدة، بما في ذلك OpenAI و Anthropic و Google DeepMind، على إعلان يحث حكومة الولايات المتحدة على دعم الجهود الدولية الرامية إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم بشكل متعمد. يدعو الخبراء إلى استخدام أدوات تقنية وسياسية لإبطاء التنمية في حال ازدياد المخاطرخاصة بالنظر إلى احتمال قيام الأنظمة بأتمتة أبحاثها وتحسينها الخاصة.
تسعى شركتا Anthropic و OpenAI إلى تقديم هذه العيوب على أنها مخاطر يمكن التحكم فيها، وتصران على أن نماذج الأمن السيبراني الخاصة بهما قوية للغاية بحيث لا يمكن تقديمها للجمهور العام. يُمكّنهم هذا الموقف من التحذير من المخاطر وفي الوقت نفسه ترسيخ مكانتهم كشركاء أساسيين في أي تنظيم مستقبلي، في ظل ديناميكية اشتدت فيها المنافسة بين الشركتين وأصبح الخوف هو نقطة البيع الرئيسية.
ما حدث يترك درساً واضحاً: كلما زادت الاستقلالية التي تحصل عليها النماذج، زادت الحاجة إلى إخضاعها لاختبارات مع عزل قابل للتحقق، وشبكات مسدودة، وبيانات اصطناعية، وآليات إيقاف تشغيل تلقائية. لم يعد الأمن مجرد مشكلة تقنية، بل أصبح تحدياً هندسياً وحوكمياً يؤثر على الصناعة بأكملها.وبينما تتنافس المختبرات لإثبات من يمتلك النموذج الأقوى، يبقى العالم الحقيقي هو ساحة الاختبار النهائية.