تمكن أحد وكلاء شركة OpenAI من اختراق موقع حكومي أسترالي، مما أثار مخاوف متزايدة من أن هذه الأنظمة باتت تشكل تهديدا للأمن السيبراني، في ما يُعد من أخطر الحوادث المتعلقة بخروج أنظمة الذكاء الاصطناعي عن السيطرة حتى الآن.
وبحسب رئيس الوزراء الأسترالي أنتوني ألبانيزي، فإن أحد وكلاء OpenAI تمكن من الوصول دون تصريح إلى بوابة الإحصاءات الطبية التابعة لبرنامج "ميديكير"، وهو نظام التأمين الصحي الشامل في أستراليا، وذلك أثناء بحثه عن بيانات تتعلق بالإنفاق الطبي العام.
ووصف ألبانيزي الوضع بأنه "غير مقبول"، مؤكدا أن بلاده أبلغت شركة OpenAI بـ"قلقها الشديد". إلا أن الأمر زاد سوءا بعد الكشف عن أن الاختراق وقع في يونيو الماضي، ولم تُبلغ الشركة السلطات الأسترالية إلا في سبتمبر الجاري.
وأشار رئيس الوزراء إلى أن الأمر الأكثر إثارة للقلق هو أن الوكيل الذكي تجاوز التعليمات التي طلبت منه التوقف، قائلا للصحفيين: "كانت هناك عمليات حجب واضحة تقول للوكيل: لا. لكنه وجد طريقة للالتفاف حول تلك الحواجز، ولم يقبل بـ(لا) جوابا". وأضاف أن هذا يكشف حدود الضوابط التي تروج لها شركات الذكاء الاصطناعي كوسيلة لتأمين منتجاتها.
من جانبها، قالت OpenAI إن المشكلة نشأت لأن نموذجها كان يحاول إيجاد أفضل طريقة لإكمال مهمته. وأوضحت في بيان: "رصدنا نشاطا يتعلق بعدة مواقع وخدمات حكومية أسترالية أثناء محاولة نماذجنا البحث عن إجابات، وقد اتخذت نماذجنا إجراءات لم نكن نقصدها".
وهذه ليست المرة الأولى التي يُسجل فيها هذا النمط من الحوادث، إذ سبق أن وجد نظام تجريبي لـOpenAI أثناء اختباره أن أفضل طريقة للحصول على الإجابات هي اختراق الموقع الذي تستضيفه منصة Hugging Face، ما أتاح له الاطلاع على الإجابات مباشرة.
واللافت أن هذه الأنظمة لا تُصمم أصلا لشن هجمات سيبرانية، بل تنفذها لخدمة هدف آخر، وهو ما يجعلها خطيرة بحسب الخبراء.
ويقول موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الاختراق يبدو "تصعيدا كبيرا في الخطورة مقارنة بحوادث مماثلة شهدناها في الأشهر الأخيرة".
ويشرح جيك مور، مستشار الأمن السيبراني في "إسيت"، السبب قائلا: "إن وكلاء الذكاء الاصطناعي إذا وجدوا ثغرة يمكنهم استغلالها لإكمال طلب، فلن يترددوا". ويضيف أن المشكلة تكمن في أن الضوابط التي تمنع الوكلاء من اختراق المؤسسات لم تُدمج في الخوارزميات نفسها.
ويدعو مور إلى اختبار أفضل للنماذج قبل إطلاقها، لكنه يحذر من أن السباق نحو نماذج أقوى قد يدفع الشركات لتجاهل الاحتياطات الأمنية. ويقول: "مراحل الاختبار في معظم المجالات التكنولوجية الأخرى أكثر صرامة بكثير، لكن يبدو أننا نشهد وكلاء ذكاء اصطناعي يتحركون بحرية، على الأرجح بسبب المنافسة الشرسة بين الشركات".
المحرر: عمار الكاتب