La رهان أمازون على الذكاء الاصطناعي في سحابتها وقد كشف هذا عن بعض المخاطر التشغيلية. ففي منتصف ديسمبر، شهدت خدمات أمازون السحابية (AWS) انقطاعاً مطولاً في نظام داخلي رئيسي لعملائها، وهو حادث تربطه مصادر مختلفة بشكل مباشر باستخدام وكلاء الذكاء الاصطناعي في البرمجة والمهام التشغيلية.
ما حدث قد أعاد إشعال فتيل نقاش حاد للغاية في قطاع التكنولوجيا الأوروبيإلى أي مدى يُنصح بتفويض القرارات الحساسة إلى مساعدي الذكاء الاصطناعي في بيئات الإنتاج، خاصة عندما نتحدث عن البنى التحتية السحابية الحيوية التي تستخدمها الشركات والإدارات العامة والخدمات الرقمية في جميع أنحاء العالم؟
انقطاع لمدة 13 ساعة خلال التبني الكامل لوكلاء الذكاء الاصطناعي
بحسب مصادر استشهدت بها وسائل إعلام مثل فايننشال تايمز ورويترزفي منتصف ديسمبر، شهدت AWS انقطاعًا في الخدمة استمر قرابة 13 ساعة، مما أثر على نظام يستخدمه العملاء لتحليل وتتبع إنفاقهم على الحوسبة السحابية. هذه الخدمة، المعروفة داخليًا بأداة إدارة التكاليف، تتيح للشركات في جميع أنحاء العالم - بما في ذلك العديد من الشركات في أوروبا - مراقبة استهلاك الموارد على المنصة بدقة.
يكمن أصل المشكلة في كيرو، وكيل البرمجة المدعوم بالذكاء الاصطناعي من AWSقام مهندسو الشركة بتمكين هذا النظام، المصمم لتنفيذ الإجراءات التقنية بشكل مستقل بناءً على التعليمات البشرية، لإجراء سلسلة من التغييرات في بيئة الإنتاج، بهدف حل حادثة ما.
يؤكد العديد من الأشخاص المطلعين على الأمر أن كيرو، الذي يعمل كـ "مستقل" أو عامل فعالتم تحديد أن أفضل طريقة لحل المشكلة هي "حذف البيئة وإعادة إنشائها". وقد تسبب هذا القرار في تعطل نظام إدارة التكاليف، مما ترك العملاء بدون وصول طبيعي إلى تلك الوظائف لمدة 13 ساعة تقريبًا.
أثر هذا الاضطراب على خدمة فريدة تقع في إحدى مناطق AWS الـ 39وبالتحديد، في إحدى المنطقتين اللتين تديرهما الشركة في البر الرئيسي للصين. وتؤكد أمازون أن خدمات الحوسبة والتخزين وقواعد البيانات والذكاء الاصطناعي لم تتأثر، وأن التأثير لم يمتد إلى مناطق أخرى، بما في ذلك أوروبا. في هذه الحالة، اقتصر الانقطاع على إحدى المنطقتين. مناطق AWS الخرسانة.
وبغض النظر عن هذا القيد الجغرافي، فقد حظي الحادث باهتمام كبير لأنه ينطوي على خدمة دعم أساسية للإدارة المالية الحوسبة السحابية، التي يدعمها عملاء الأعمال والمنظمات العاملة في أسواق مثل إسبانيا والاتحاد الأوروبي ككل.
روايات متضاربة: هل هو فشل الذكاء الاصطناعي أم خطأ بشري؟
لا يوجد إجماع على تفسير ما حدث. من جهة، استشهدت صحيفة فايننشال تايمز بعدد من موظفي شركة AWS ويزعمون أن الأمر لم يكن حادثاً معزولاً، إذ يستشهدون بحادثتي تعطل إنتاج حديثتين على الأقل، كانت فيهما أدوات الذكاء الاصطناعي الخاصة بالشركة - كيرو وأمازون كيو ديفيلوبر - محور سلسلة الأحداث.
بل إن أحد كبار المسؤولين التنفيذيين في شركة AWS صرح بذلك. "لقد شهدنا بالفعل حالتي انقطاع على الأقل في الإنتاج" في الأشهر الأخيرة. ووفقًا لروايتهم، سمح المهندسون لوكلاء الذكاء الاصطناعي بحل المشكلات دون تدخل بشري مباشر، وهو ما يعتقدون أنه جعل مثل هذه الحوادث متوقعة إلى حد كبير.
من هذا المنظور الداخلي الأكثر أهمية، تُعامل أدوات الذكاء الاصطناعي على أنها امتداد للمشغل البشري وفي الواقع، يرثون نفس الصلاحيات والسلطات. في الحالات التي تم التحقيق فيها، لم يحتج المهندسون المعنيون إلى موافقة بشرية ثانية للتحقق من صحة التغييرات في الإنتاج، وهو ما يخالف البروتوكول المعتاد للرقابة ومراجعة الأقران.
من جهة أخرى، تدافع الشركة عن رواية مختلفة تماماً. صرّح متحدث باسم أمازون في بيان عبر البريد الإلكتروني إلى رويترز ووسائل إعلام أخرىويصر على أن الحادث كان "قصيرًا" وأن يكمن السبب في خطأ المستخدم.ليس في مجال الذكاء الاصطناعي. إنه يتحدث عن ضوابط وصول مُهيأة بشكل خاطئ، والتي منحت صلاحيات مفرطة للمهندس الذي يُشغّل برنامج كيرو.
كان هذا الحدث القصير بسبب خطأ من المستخدم - وتحديداً، إعدادات خاطئة للتحكم في الوصول - وليس خطأ من الذكاء الاصطناعي"أكد ممثل AWS أن استخدام أدوات الذكاء الاصطناعي في ذلك الوقت كان مصادفة وأن "المشكلة نفسها يمكن أن تحدث مع أي أداة تطوير أو حتى مع إجراء يدوي".
كيرو، ومطور أمازون كيو، وصعود البرمجة المدعومة بالذكاء الاصطناعي
يأتي هذا الحادث في خضم توسع البرمجة بمساعدة الذكاء الاصطناعي ضمن AWSتم إطلاق نظام Kiro المعني في يوليو كمساعد تطوير يتجاوز "الطيارين المساعدين" التقليديين: فبدلاً من مجرد اقتراح مقتطفات من التعليمات البرمجية، تم تصميمه لتنفيذ مهام معقدة بناءً على المواصفات الفنية التي يقدمها المهندسون.
أمازون كانت تمتلك بالفعل مطور أمازون كيوروبوت محادثة مدعوم بالذكاء الاصطناعي مصمم للمساعدة في كتابة ومراجعة وتعديل التعليمات البرمجية. ويشير موظفو الشركة إلى أن هذه الأداة الأخرى كانت مرتبطة بحادثة ثانية وقعت مؤخراً، والتي ارتبطت أيضاً بانقطاعات في الخدمة، على الرغم من أن التأثير في تلك الحالة لم يمتد إلى أنظمة خدمة العملاء المباشرة.
تتضمن استراتيجية الشركة دمج وكلاء الذكاء الاصطناعي هؤلاء على نطاق واسع في العمل اليومي لفرقها التقنية. ووفقًا لمصادر داخلية، حددت AWS هدفًا يتمثل في أن يستخدم ما يقرب من 80% من مطوريها الذكاء الاصطناعي في مهام البرمجة مرة واحدة على الأقل أسبوعيًا، وتراقب عن كثب معدلات التبني.
لا يقتصر هذا الالتزام على الجانب التقني فحسب، بل يشمل أيضاً الجانب التجاري. تُحقق AWS ما يقارب حوالي 60% من أرباح أمازون التشغيليةلذلك، يعتبر أي تقدم في الإنتاجية وخفض التكاليف من خلال الذكاء الاصطناعي أمراً أساسياً للحفاظ على ريادتها في مواجهة مزودي الخدمات السحابية الرئيسيين الآخرين - مثل مايكروسوفت أزور أو جوجل كلاود - الذين يتنافسون بشدة أيضاً في أوروبا وإسبانيا.
إلا أن هذه الأحداث قد عززت شكوك من جانب بعض الموظفينيتساءل بعض الموظفين عما إذا كانت أدوات الذكاء الاصطناعي توفر فوائد كافية لتفوق مخاطر تشغيلها في بيئات حساسة، خاصة عندما تكون لا تزال في مراحل مبكرة نسبياً من النضج.
إجراءات أمنية إضافية ومخاوف بشأن الموثوقية
على الرغم من التقليل من شأن دور الذكاء الاصطناعي، تزعم مصادر مختلفة أن في أعقاب انقطاع الخدمة في ديسمبر، عززت AWS سياساتها الأمنية الداخليةوتشمل التدابير المنفذة مراجعة الأقران الإلزامية لبعض عمليات الوصول إلى بيئات الإنتاج، والحد من الأذونات المفرطة، وزيادة الرقابة على الإجراءات التي يمكن أن تقوم بها وكلاء الذكاء الاصطناعي دون تدخل بشري صريح.
تتوافق هذه المبادرات مع مخاوف مشتركة لدى العديد من العملاء، بمن فيهم الأوروبيون: إلى أي مدى يُعدّ أتمتة القرارات الحاسمة أمراً آمناً؟ في البنى التحتية السحابية، حيث يمكن أن يؤثر تغيير التكوين السيئ على الخدمات المالية والتجارة الإلكترونية والخدمات اللوجستية أو الحكومة الإلكترونية.
وتؤكد أمازون من جانبها أن ذلك افتراضياً يطلب كيرو دائمًا الإذن قبل التصرفأوضحت الشركة أن المشكلة المحددة في حادثة ديسمبر نبعت من امتلاك المهندس المعني "صلاحيات أوسع من المتوقع". وهذا، من وجهة نظر الشركة، يضع الحادثة في خانة الخطأ البشري في تصميم الصلاحيات، بدلاً من سلوك الذكاء الاصطناعي غير المتوقع.
وفي الوقت نفسه، تصر شركة AWS على أن لم يجد البحث أي دليل على أن الأخطاء أكثر تواتراً عند استخدام أدوات الذكاء الاصطناعي. مقارنةً بالعمل بالأساليب التقليدية. من وجهة نظر الشركة، تُعدّ هذه الأنواع من الأنظمة مجرد امتداد لسير العمل التطويري الحالي، وليست عنصرًا أقل أمانًا بطبيعته.
ومع ذلك، فإن التضارب بين التصريحات الرسمية والشهادات الداخلية يعيد طرح قضية المسؤولية عن الحوادث الناجمة عن الأتمتة: ما هو الجزء الذي يتوافق مع موفر الخدمة السحابية، وما هو الجزء الذي يتوافق مع تصميم الأذونات وخطوط الأنابيب، وما هو المفترض أنه خطر تكنولوجي متأصل.
التأثير على العملاء وسياق حالات الانكماش الاقتصادي الكبرى الأخرى
في هذه الحالة تحديدًا، كان نطاق الانقطاع هو يقتصر جغرافياً على منطقة من البر الرئيسي للصين تقدم أمازون الآن خدمة موحدة لإدارة التكاليف. وتؤكد أمازون أن العملاء في مناطق أخرى - بما في ذلك البنية التحتية التي تديرها الشركة في أوروبا امتثالاً للوائح الاتحاد الأوروبي - لم يتأثروا بانقطاع الخدمة الذي حدث في ديسمبر.
وتؤكد الشركة أيضاً على ذلك الخدمات الأساسية مثل الحوسبة والتخزين وقواعد البيانات ومنصات الذكاء الاصطناعي نفسها استمرت في العمل بشكل طبيعي. بعبارة أخرى، لم يكن انقطاعًا عامًا في الخدمة السحابية، بل كان خللًا محليًا في أداة تكميلية، وإن كانت ذات صلة بالتحكم في التكاليف.
ومع ذلك، يتم تفسير هذه الحلقة في ضوء اضطرابات سابقة أخرى ذات حجم أكبرفي أكتوبر، تسبب انقطاع كبير في خدمة الحوسبة السحابية لشركة أمازون في حدوث اضطرابات عالمية، مما أثر على خدمات الشركة نفسها والتطبيقات الشائعة، من الشبكات الاجتماعية إلى ألعاب الفيديو ومنصات المراسلة.
تُشكّل هذه الأنواع من الحوادث، التي لا تزال عالقة في أذهان القطاع، خلفيةً لتقييم مدى تسامح العملاء الأوروبيين مع الأعطال في البنية التحتية الحيويةفي سياق تقوم فيه العديد من الشركات في إسبانيا والاتحاد الأوروبي بنقل أنظمتها الرئيسية إلى الحوسبة السحابية، فإن كل اضطراب يعيد فتح النقاش حول الاعتماد التكنولوجي، والمرونة، وخطط الطوارئ، وتنويع الموردين.
بالنسبة لمشغلي الحوسبة السحابية، يكمن التحدي في الموازنة بين ابتكارات الذكاء الاصطناعي وضمانات الاستقراريتزامن الضغط لدمج المزيد من العوامل المستقلة والقوية مع متطلبات التنظيم والامتثال في أسواق مثل السوق الأوروبية، حيث ستتطلب لوائح الذكاء الاصطناعي المستقبلية ومعايير المرونة السيبرانية تبرير قرارات التصميم والأمن هذه.
كل ما حدث خلال انقطاع خدمة AWS في ديسمبر يوضح أين وصلت الحوسبة السحابية اليوم: بنية تحتية ناضجة وحيوية بدأت تعتمد على وكلاء الذكاء الاصطناعي ذوو القدرات المتزايدةلكن في الوقت نفسه، يجب عليها تعزيز ضوابطها لمنع الأتمتة من أن تصبح مصدرًا جديدًا للمخاطر. وبينما تُصرّ أمازون على أن السبب كان خطأً بشريًا بسيطًا وتُقلّل من شأن تأثير الحادث، تُظهر روايات داخلية تربط أدوات الذكاء الاصطناعي بشكل مباشر بحادثتي انقطاع حديثتين على الأقل أن النقاش حول كيفية ومدى تفويض المهام لهذه الأنظمة لم ينتهِ بعد، سواء داخل الشركة أو بين عملائها في أوروبا وبقية أنحاء العالم.
