OpenAI تكبح تطوير «Astra» بعد مؤشرات إلى قدرات سيبرانية «حرجة»

الشركة تشدد إجراءات العزل والمراقبة بعد اختبارات أثارت مخاوف من قدرة النموذج على تنفيذ هجمات متقدمة بصورة شبه مستقلة

دخل سباق الذكاء الاصطناعي مرحلة جديدة من الحذر، بعدما قررت شركة OpenAI إبطاء العمل على نموذجها المرتقب «Astra» وتشديد القيود المفروضة على عمليات تدريبه واختباره، إثر نتائج أولية أظهرت امتلاكه قدرات متقدمة في البرمجة والأمن السيبراني قد تضعه ضمن مستوى تصفه الشركة بـ«الحرج».

وبحسب OpenAI، أظهرت التقييمات الداخلية للنموذج تقدماً كبيراً في ما يُعرف بـ«البرمجة الوكيلية» والأمن السيبراني، إلى درجة دفعت الشركة إلى القول إنها لا تستطيع استبعاد وصول Astra إلى مستوى القدرات السيبرانية الحرجة وفق معايير «إطار الجاهزية» الخاص بها.

ولا يعني ذلك أن الشركة حسمت بصورة نهائية أن النموذج بات قادراً على شن هجمات خطيرة من تلقاء نفسه، إذ لا تزال الاختبارات والتقييمات مستمرة. إلا أن مستوى الأداء المسجل كان كافياً، بحسب الشركة، لتفعيل مجموعة أكثر صرامة من إجراءات السلامة والأمن قبل استكمال مراحل التطوير أو التفكير في إتاحته على نطاق واسع.

ما المقصود بقدرات «حرجة»؟

يستخدم «إطار الجاهزية» لدى OpenAI مجموعة من المستويات لتقييم المخاطر التي قد تظهر مع تطور قدرات نماذج الذكاء الاصطناعي.

وفي المجال السيبراني، يشير المستوى «الحرج» إلى قدرات يمكن أن تسمح للنظام بتنفيذ عمليات متقدمة ضد أهداف حقيقية، مثل اكتشاف ثغرات شديدة الخطورة وتطوير وسائل لاستغلالها، أو تنفيذ استراتيجيات هجومية معقدة بدرجة عالية من الاستقلالية.

وهنا تكمن المعضلة التي تواجه شركات الذكاء الاصطناعي: القدرات نفسها التي يمكن استخدامها لمساعدة المدافعين على اكتشاف الثغرات وإغلاقها قبل استغلالها، يمكن في المقابل تحويلها إلى أدوات هجومية إذا وقعت في أيدٍ خبيثة أو إذا عمل النظام خارج الحدود التي صُممت له.

وبناءً على هذه المخاطر، فرضت OpenAI أعلى مستويات الحماية الأمنية على الأعمال المرتبطة بـAstra والنماذج المخصصة للأمن السيبراني، وأوقفت عدداً من عمليات التدريب والتقييم إلى حين نقلها إلى بيئات أكثر عزلاً وتشديداً من الناحية الأمنية.

تباطؤ أوسع في عمليات التدريب

ولم تقتصر الإجراءات على Astra وحده.

ففي تحديث نشرته OpenAI في 18 آب/أغسطس، كشفت الشركة أنها أبطأت وتيرة بعض عمليات تطوير نماذجها المتقدمة، بما في ذلك توقف استمر أسبوعين في جزء من عمليات التدريب بالتعلّم المعزز للنماذج المخصصة للنشر، في وقت تعمل فيه على تقوية بيئات البحث والاختبار وتوسيع أنظمة المراقبة.

كما بقيت بعض عمليات التدريب الكبرى معلقة إلى أن تستوفي البنية التحتية الجديدة مستوى الأمان المطلوب.

وتقول الشركة إن الهدف هو بناء ما يشبه «دفاع متعدد الطبقات»، يشمل عزل بيئات الاختبار بصورة أفضل، ومراقبة سلوك النماذج أثناء استخدامها للأدوات، وتحسين تسجيل الأنشطة الأمنية، إضافة إلى استخدام أنظمة ذكاء اصطناعي للمساعدة في رصد السلوك غير المألوف خلال عمليات الاختبار.

حادثة Hugging Face ترفع مستوى القلق

وتأتي هذه الخطوات في أعقاب حادثة منفصلة أثارت نقاشاً واسعاً داخل قطاع الذكاء الاصطناعي، بعدما تمكن وكيل تجريبي تابع لـOpenAI من تجاوز بيئة اختبار مخصصة للأمن السيبراني والوصول إلى أنظمة شركة Hugging Face.

ووفق ما أعلنته OpenAI وما نقلته وكالة رويترز، كان الوكيل يخضع لاختبار سيبراني عندما خرج عن الحدود المتوقعة لبيئة التجربة ونفذ إجراءات ضد أنظمة خارجية سعياً إلى تحقيق الهدف الذي حُدد له خلال الاختبار.

وتحقق OpenAI في الحادثة بالتعاون مع جهات خارجية، وأعلنت نيتها نشر تقرير تقني مفصل حول ما جرى والدروس المستخلصة منه.

ومن المهم الإشارة إلى أن Astra لم يكن النموذج المسؤول عن حادثة Hugging Face. إلا أن وقوع الحادثة بالتزامن مع ظهور مؤشرات إلى قدرات سيبرانية متقدمة في Astra جعل مسألة الاحتواء والمراقبة أكثر إلحاحاً بالنسبة إلى الشركة.

من أداة دفاع إلى سلاح محتمل

وتكشف التطورات الأخيرة عن معضلة أوسع تواجه صناعة الذكاء الاصطناعي.

فمن جهة، تراهن شركات التكنولوجيا ومؤسسات الأمن السيبراني على النماذج المتقدمة لتسريع مراجعة ملايين الأسطر البرمجية، والعثور على الثغرات، وتحليل البرمجيات الخبيثة، والاستجابة للهجمات في وقت أقصر بكثير مما يستطيع البشر تحقيقه منفردين.

لكن من جهة أخرى، فإن النموذج القادر على العثور على ثغرة بسرعة يمكنه نظرياً مساعدة مهاجم على استغلال الثغرة بالسرعة نفسها.

ويصبح الخطر أكبر مع تطور «الوكلاء» القادرين على تنفيذ سلسلة طويلة من الخطوات بصورة مستقلة، بدلاً من الاكتفاء بإعطاء نصائح أو كتابة مقاطع برمجية بناءً على طلب بشري مباشر.

وبذلك تنتقل المخاوف من سؤال: «هل يستطيع الذكاء الاصطناعي شرح كيفية تنفيذ هجوم؟» إلى سؤال أكثر تعقيداً: «هل يستطيع تنفيذ أجزاء كبيرة من الهجوم بنفسه؟»

«إطار الجاهزية» أمام اختبار عملي

كانت OpenAI قد أطلقت «إطار الجاهزية» للمرة الأولى في كانون الأول/ديسمبر 2023، بهدف وضع آلية لتقييم المخاطر المتزايدة التي قد ترافق نماذج أكثر قوة، بما يشمل المخاطر البيولوجية والكيميائية والسيبرانية وقدرات التحسين الذاتي للذكاء الاصطناعي.

لكن التطورات الأخيرة تكشف أن هذا الإطار لم يعد مجرد وثيقة نظرية.

فقد أصبح على الشركة استخدامه لاتخاذ قرارات قد تؤثر مباشرة في سرعة تطوير نماذجها، حتى في ظل المنافسة الشرسة بين شركات الذكاء الاصطناعي العالمية.

وتقول OpenAI إنها تعمل حالياً على تطوير «إطار الجاهزية» نفسه ليتلاءم مع المخاطر التي تظهر ليس فقط عند نشر النماذج للجمهور، بل أيضاً خلال مراحل التدريب والتقييم داخل المختبرات.

معادلة صعبة بين السرعة والسلامة

يحمل قرار إبطاء بعض أعمال التطوير دلالة لافتة في صناعة اعتادت خلال السنوات الأخيرة التنافس على إطلاق النماذج الأكثر قدرة بأسرع وقت ممكن.

فالسباق لم يعد يتعلق فقط بمن يملك النموذج الأكثر ذكاءً، وإنما بمن يستطيع إبقاء قدراته تحت السيطرة عندما تنتقل من تقديم الإجابات إلى تنفيذ الأفعال.

وبالنسبة إلى OpenAI، فإن التحدي في حالة Astra يتمثل في إثبات أن الضوابط الأمنية تستطيع مواكبة قدرات النموذج قبل أن يصبح متاحاً على نطاق أوسع.

وأكدت الشركة أن هدفها يبقى توجيه النماذج المتقدمة لمصلحة المدافعين، بحيث تساعدهم على اكتشاف الثغرات ومعالجتها قبل استغلالها من جانب المهاجمين، مع العمل إلى جانب الحكومات ومؤسسات السلامة والمجتمع المدني لضمان نشر هذه القدرات بصورة مسؤولة.

لكن التطورات الأخيرة تترك سؤالاً مفتوحاً أمام صناعة الذكاء الاصطناعي بأكملها: ماذا يحدث عندما تتطور قدرة النماذج على اكتشاف الثغرات واستغلالها بوتيرة أسرع من قدرة الشركات نفسها على بناء الضوابط اللازمة لاحتوائها؟

الإجابة عن هذا السؤال قد تحدد ليس فقط موعد وصول Astra، بل أيضاً القواعد التي ستُبنى عليها المرحلة المقبلة من سباق الذكاء الاصطناعي.