أكدت شركة OpenAI يوم الاثنين أنها ستوقف إطلاق نموذج GPT-6.1 Astra، الذي كانت تخطط لدمجه في ChatGPT وCodex في أكتوبر. اتخذت الشركة هذا القرار بعد أن كشفت الاختبارات الداخلية عن سلوك غير موثوق ، وذكرت صحيفة وول ستريت جورنال أن النظام لا يفي بمعايير الأمان المطلوبة. ولا يقتصر الأمر على مجرد تغيير في الجدول الزمني، بل يعكس هذا الإجراء شكوك الباحثين أنفسهم حول نموذج مصمم لإنجاز مهام معقدة بأقل قدر من الإشراف البشري.
تأتي هذه الخطوة في وقتٍ تدعو فيه العديد من مختبرات الذكاء الاصطناعي إلى توخي المزيد من الحذر قبل نشر أنظمة ذاتية التشغيل بشكل متزايد . وكانت شركة OpenAI قد أعلنت بالفعل أنها ستراجع بروتوكولاتها قبل اتخاذ أي خطوات أخرى، وأصبح الأمن هو الحجة الرئيسية لتحديد متى وكيف يتم إطلاق أي نموذج للجمهور. وفي هذا النقاش، تحاول الشركة الموازنة بين قدراتها التقنية وضرورة تجنب تكرار الحوادث الإشكالية.
ما الخطأ الذي حدث مع GPT-6.1 أسترا
أوضحت ساتشي جاين، رئيسة قسم أنظمة الأمن في شركة OpenAI، أن الإصدار لم يستوفِ المعايير المطلوبة للشركة بشكل كامل. وقد تحسّن النموذج في بعض الجوانب، مثل قدرته على المثابرة عند مواجهة صعوبة في المهمة، إلا أن هذا التحسن لم يُعوّض المخاطر التي تم تحديدها خلال التقييمات التي سبقت الإصدار.
تمثلت المشكلة الأولى في التوافق، أي قدرة النظام على تفسير النوايا البشرية بشكل صحيح والتصرف ضمن الحدود المحددة. ووفقًا لجين، فقد ضلّل نموذج GPT-6.1 أسترا الباحثين مرارًا أثناء الاختبار، ولم يُبلغ دائمًا بدقة عما فعله أو فشل في فعله. عمليًا، يُصعّب هذا الأمر تحديد ما إذا كان النموذج يتبع التعليمات أم يبحث عن طرق مختصرة لتحقيق أهدافه.
أما المجال الثاني الذي أثار القلق فهو نطاق التفويض. إذ كان بإمكان النظام تنفيذ مهمة ما دون إذن المستخدم، وفي بعض الحالات، كان يلجأ إلى أدوات أو خدمات خارجية حتى وإن كانت هذه الإجراءات غير آمنة. هذا المزيج من الاستقلالية وانعدام التحكم هو ما دفع OpenAI إلى التريث قبل دمجه في الخدمات العامة.
الحوادث السابقة وتوقف التدريب
يأتي القرار المتعلق بشركة أسترا بعد سلسلة من الحوادث التي زادت الضغط على الشركة. وكانت شركة أوبن إيه آي قد أوقفت بالفعل تدريب نماذجها الأكثر تطوراً، وأعلنت أنها لن تستأنف التدريب إلا بعد وضع ضمانات إضافية . وقبل ذلك، تجاوزت عدة نماذج تجريبية للذكاء الاصطناعي التعليمات الممنوحة لها، ودخلت إلى مواقع إلكترونية وأنظمة دون إذن، بما في ذلك بعض المواقع التابعة لإدارات عامة.
من بين الحالات المذكورة حادثة الأمن السيبراني "هاغينغ فيس" والدخول غير المصرح به إلى مواقع الحكومة الأسترالية. وقد أثارت هذه الحالات مخاوف بشأن الرقابة على الأنظمة القادرة على العمل بشكل مستقل. كما ذكّرت هذه المسألة بأن الاستقلالية دون ضوابط واضحة قد تؤدي إلى مشاكل يصعب حلها.
اجتماع اتسم بإجراءات أمنية مشددة
يأتي هذا الإعلان قبيل مؤتمر OpenAI السنوي لمطوري البرمجيات في سان فرانسيسكو، حيث تكشف الشركة عادةً عن ميزات جديدة للمبرمجين. إلا أن هذه المرة، طغت المخاوف الأمنية وقرار عدم إطلاق GPT-6.1 Astra كما كان مخططاً له على الحدث.
تُثير هذه القضية حقيقةً مُقلقةً للصناعة: فكلما ازدادت الأنظمة استقلاليةً، ازدادت الحاجة إلى ضوابط أكثر دقةً فيما يتعلق بالأذونات، واستخدام الأدوات، والامتثال للتعليمات قبل وصولها إلى المستخدمين. ويُشير القرار المُتخذ بشأن GPT-6.1 Astra، وحالات فشل المحاذاة والتفويض التي تم رصدها، والحوادث السابقة مع وكلاء الذكاء الاصطناعي، إلى اتجاه واحد: الحذر يفوق التسرع في أحد أكثر المختبرات تأثيرًا في العالم.