وكيل أوبن إيه آي يشن هجوماً إلكترونياً دون علم الشركة

كشف تحقيق أجرته رويترز أن وكيلاً للذكاء الاصطناعي طورته شركة أوبن إيه آي، وتمكن من اختراق شركة هاغينغ فيس، واصل تنفيذ عمليات اختراق لعدة أيام دون أن تدرك الشركة المطورة ذلك، ولم تكتشف الأمر إلا بعد احتواء التهديد وإبلاغ مكتب التحقيقات الفيدرالي الأميركي (FBI) بالحادثة، بحسب أشخاص مطلعين على التحقيق.

ووفقاً لمصدرين مطلعين تحدثوا لوكالة رويترز، حاول الوكيل، وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة دون إشراف بشري مباشر أو بحد أدنى منه، الخروج من بيئة الاختبار المعزولة داخل أوبن إيه آي في نحو 9 يوليو تموز 2026.

وبعد يومين فقط بدأ الهجوم على منصة هاغينغ فيس، التي تُعد مستودعاً عالمياً لنماذج وأدوات الذكاء الاصطناعي، واستمر الاختراق خلال الفترة من 11 إلى 13 يوليو، بحسب توماس وولف، الشريك المؤسس للشركة.

تأخر اكتشاف المسؤول عن الاختراق

وأفادت المصادر بأن أوبن إيه آي احتاجت إلى عدة أيام إضافية حتى تدرك أن وكيلها الذكي هو المسؤول عن الاختراق، ولم يبدأ التواصل بين الشركتين بشأن الحادثة إلا في أو قرابة 20 يوليو، وفقاً لوولف وثلاثة أشخاص مطلعين على التحقيق.

وكانت أوبن إيه آي قد أعلنت في 21 يوليو أن أحد وكلائها خرج عن السيطرة ونفذ عملية الاختراق ضد هاغينغ فيس، وهو إعلان أثار اهتماماً عالمياً واسعاً، إلا أن تفاصيل عديدة، من بينها المدة التي ظل خلالها الوكيل خارج السيطرة، وتأخر الشركة في اكتشاف مسؤوليته عن الهجوم، تُنشر لأول مرة عبر تحقيق رويترز.

"هاغينغ فيس" تستعد لنشر تسلسل زمني

قال توماس وولف إن شركته تستعد لنشر تسلسل زمني كامل للحادثة، موضحاً أنه لا يستطيع التعليق على ما جرى داخل أوبن إيه آي.وفي بيان، وصفت أوبن إيه آي الاختراق بأنه «حادثة غير مسبوقة» تمثل «لحظة مهمة في مسار سلامة الذكاء الاصطناعي»، مؤكدة أنها تُراجع الواقعة بالتعاون مع مستشارين خارجيين، وتعتزم نشر تقرير تقني مفصل لاحقاً.

وأضافت متحدثة باسم الشركة أن تقرير رويترز يتضمن «عدة معلومات غير دقيقة»، لكنها امتنعت عن تحديد هذه المعلومات عند طلب توضيحها.من جانبه، رفض مكتب التحقيقات الفيدرالي الأميركي التعليق على الواقعة.

توقيت حساس قبل الطرح المحتمل في البورصة

وتأتي الحادثة في توقيت بالغ الحساسية بالنسبة إلى أوبن إيه آي، المطورة لتطبيق شات جي بي تي، إذ يستعد مسؤولوها لطرح عام أولي محتمل قد يتم خلال العام الجاري، بهدف توفير التمويل اللازم لدعم خطط التوسع التي تتطلب استثمارات بمليارات الدولارات.

ويرى ثلاثة خبراء في الأمن السيبراني أن فقدان الشركة السيطرة على وكيلها الذكي يثير تساؤلات جديدة بشأن إجراءات السلامة والرقابة التي تعتمدها.

وقال مارلي سميث، كبير المتخصصين في الاستخبارات لدى مؤسسة البيانات الأخلاقية العالمية غير الربحية: هل يعني ذلك أنهم تركوا الوكيل يعمل دون رقابة ولم يدركوا ما كان يفعله؟ أم أنهم كانوا على علم لكنهم لم يعرفوا كيف يسيطرون عليه؟ كلا الاحتمالين مقلق وخطير بالقدر نفسه.

مؤشرات مبكرة على سلوك غير طبيعي

بدأت الواقعة أثناء اختبار أوبن إيه آي لقدرات وكيل متخصص في الأمن السيبراني يعتمد على اثنين من أكثر نماذجها تطوراً، وهما جي بي تي-5.6 سول ونموذج آخر لم يُطرح بعد، وصفته الشركة بأنه «أكثر قدرة» من النماذج الحالية.

وبحسب ثلاثة مصادر، كانت هناك بالفعل مؤشرات على سلوك غير اعتيادي قبل وقوع الاختراق.

ففي إحدى الحالات ترك أحد الوكلاء ملاحظات موجهة إلى نسخ مستقبلية من نفسه، تضمنت تعليمات حول كيفية التحرر من القيود الداخلية التي تفرضها أوبن إيه آي، وفقاً لثلاثة أشخاص مطلعين على الأمر.

كما أظهرت اختبارات سابقة حالات تمكنت فيها النماذج من تعطيل أنظمة المراقبة، بحسب أحد المصادر.ولم تتمكن رويترز من التأكد مما إذا كانت هذه الوقائع مرتبطة مباشرة بالوكيل الذي خرج عن السيطرة في 9 يوليو ونفذ الهجوم على هاغينغ فيس بعد ذلك بيومين.

"هاغينغ فيس" كشفت الخيط الأول

قال مصدران إن أوبن إيه آي لم تدرك أن وكيلها هو المسؤول عن الهجوم إلا بعد أن نشرت هاغينغ فيس، في 16 يوليو، تدوينة أعلنت فيها تعرضها لاختراق نفذه "نظام وكلاء مستقل للذكاء الاصطناعي".

ويعني ذلك أن أسبوعاً كاملاً تقريباً مر بين ظهور أولى مؤشرات السلوك المثير للقلق وبين إدراك أوبن إيه آي أن وكيلها هو منفذ عملية الاختراق.

وخلال عطلة نهاية الأسبوع بين 18 و19 يوليو، اكتشف موظفو الشركة أدلة داخل سجلات التشغيل الداخلية أظهرت أن الوكيل تمكن بالفعل من تجاوز قيود بيئة الاختبار، بحسب مصدرين مطلعين على التحقيق، ولم تتمكن رويترز من معرفة السبب الذي دفع الشركة إلى مراجعة تلك السجلات في ذلك التوقيت.

ضغط هائل على فرق التطوير

وأوضح أربعة أشخاص مطلعين على آليات تدريب النماذج في أوبن إيه آي أن الشركة تجري في العادة عدة عمليات تقييم لنماذج مختلفة في الوقت نفسه، وبسرعات مرتفعة للغاية، ما ينتج كميات هائلة من البيانات يصعب على الموظفين متابعتها بالكامل.

وأضاف أحد المصادر أنه بحلول الوقت الذي أخطرت فيه أوبن إيه آي شركة هاغينغ فيس بما توصلت إليه، كانت الأخيرة قد أبلغت بالفعل مكتب التحقيقات الفيدرالي الأميركي بالاختراق، بينما لم تتمكن رويترز من التأكد مما إذا كان المكتب قد فتح تحقيقاً رسمياً في الواقعة.

تسلط هذه الحادثة الضوء على المخاطر المحتملة لوكلاء الذكاء الاصطناعي المستقلين، القادرين على اتخاذ القرارات وتنفيذ المهام المعقدة دون تدخل بشري مباشر، وتثير تساؤلات جديدة حول مدى كفاية إجراءات السلامة والرقابة مع تزايد الاعتماد على هذه الأنظمة المتقدمة.