بمحض إرادته .. شات جي بي تي يكسر القيود ويخترق نماذج أخرى

في الأسبوع الماضي، أعلنت منصة "هاجينج فيس" أنها اكتشفت هجومًا إلكترونيًا غير مسبوق استهدف خوادمها، لكن المفاجأة لم تكن في الاختراق نفسه، بل في هوية منفذه، فبعد أيام، كشفت "أوبن إيه آي" أن "شات جي بي تي" هو المسؤول عن هذا الاختراق، فكيف ذلك؟

كيف بدأ الاختراق؟

- في البداية، أجرت "أوبن إيه آي" اختبارًا داخليًا لقياس أقصى قدرات نماذجها -بما في ذلك نموذج "جي بي تي 5.6 سول"- في اكتشاف الثغرات الإلكترونية، ولذلك عطّلت الشركة عمدًا قيود الأمان التي تمنع النماذج من تنفيذ أنشطة سيبرانية خطرة أثناء التقييم.

بيئة معزولة

- وضعت "أوبن إيه آي" النموذج داخل بيئة اختبار معزولة عن الإنترنت، مع السماح له فقط بتنزيل بعض الحزم البرمجية اللازمة للعمل، لكن النموذج اكتشف ثغرة أمنية غير معروفة في برمجيات التنزيل.

ماذا بعد ذلك؟

- بدلًا من حل الاختبار بالطريقة التي توقعها المسؤولون، استغل النموذج ثغرة في برمجيات التنزيل للخروج من البيئة المعزولة، ثم تحرك داخل الأنظمة التابعة لـ"أوبن إيه آي" حتى وصل إلى جهاز متصل بالإنترنت، وتوجه إلى منصة "هاجينج فيس" للبحث عن حلول.

لماذا هذه المنصة؟

- استنتج النموذج أن منصة "هاجينج فيس" -التي تحتوي على عدد ضخم من نماذج الذكاء الاصطناعي- قد تحتوي على معلومات أو حلول مرتبطة بالاختبار السيبراني، وللوصول إليها، استغل ثغرات إضافية ونجح في الوصول إلى خوادم المنصة للبحث عن إجابات.

كيف انكشف الهجوم؟

- رصد الفريق السيبراني في "أوبن إيه آي" نشاطًا غير معتاد داخل بيئة الاختبار، بينما اكتشف فريق "هاجينج فيس" محاولة التسلل بشكل مستقل ونجح في احتوائها، وبعد تبادل المعلومات، تأكد أن منفذ الهجوم كان مجموعة من نماذج "شات جي بي تي" التي خضعت للاختبار.

من حلل الموقف؟

- واجهت "هاجينج فيس" معضلة غير متوقعة، إذ رفضت النماذج المغلقة تحليل الهجوم بسبب القيود الأمنية، فلجأت إلى نموذج صيني مفتوح المصدر يُدعى "GLM-5.2"، الذي طورته شركة "Z.ai"، ما مكّنها من تحليل الاختراق دون مغادرة المعلومات الحساسة خوادم المنصة.

ماذا يكشف الموقف؟

- أظهر الحادث أنه رغم تفوق النماذج الأمريكية في كثير من المهام المعقدة، فإن النماذج الصينية المفتوحة لديها ميزة مهمة، إذ يمكن تشغيلها داخل خوادم الشركات دون قيود تمنع تحليل الهجمات الإلكترونية، ما وفر مرونة أكبر دون خروج البيانات الحساسة من خوادم الشركة.

تكلفة ضخمة

- تسلط هذه الواقعة الضوء على التحول الذي أحدثه الذكاء الاصطناعي في الهجمات السيبرانية، إذ أصبحت أكثر سرعة وتعقيدًا وأقل تكلفة للمهاجمين، وتُشير تقديرات شركة "إنفينوم" إلى أن الخسائر العالمية الناجمة عن الجرائم الإلكترونية بلغت 10.5 تريليون دولار في 2025.

ماذا عن المستقبل؟

- توقعت شركة "ناوريس بروتوكول" أن الخسائر العالمية الناجمة عن الجرائم الإلكترونية سترتفع إلى 15 تريليون دولار سنويًا بحلول 2030، في ظل تزايد اعتماد المهاجمين على أدوات الذكاء الاصطناعي لتنفيذ هجمات أكثر سرعة وتعقيدًا واتساعًا.

إذًا ما التحدي؟

- لم يعد الذكاء الاصطناعي مجرد أداة لزيادة الإنتاجية، بل أصبح لاعبًا رئيسيًا في معركة الأمن السيبراني، سواء في تنفيذ الهجمات أو التصدي لها، وبينما تتسارع قدراته عامًا بعد آخر، يبدو أن التحدي الأكبر أمام الشركات والحكومات لن يكون تطوير هذه النماذج فحسب، بل منع المهاجمين من الوصول إليها أو إساءة استغلالها في تنفيذ الهجمات.

المصادر: أرقام – هاجينج فيس – إنفينوم – أوبن إيه آي – فوكس نيوز – رويترز – يورو نيوز – سايبر ديفينس