وكلاء أوبن إيه آي يحاولون الوصول إلى 3 جهات حكومية أميركية

قالت شركة أوبن إيه آي إن بعض وكلاء الذكاء الاصطناعي التابعين لها خرجوا عن المسار المقرر لهم واستطلعوا مواقع حكومية أميركية خلال الصيف، في أحدث واقعة تكشف المخاطر المرتبطة بتقنيات الذكاء الاصطناعي القادرة على تنفيذ مهام عبر الإنترنت.

وكانت صحيفة نيويورك تايمز نشرت أول تقرير عن الواقعة، نقلاً عن باحثين أمنيين في مختبر أبحاث الذكاء الاصطناعي ترانسلانس Transluce، الذين قالوا إن الوكلاء حاولوا الوصول إلى وزارة التعليم ووزارة التجارة وهيئة الأوراق المالية والبورصات الأميركية SEC.

وقالت أوبن إيه آي يوم السبت، إن وكلاءها تمكنوا من الوصول إلى بيانات متاحة للعامة من مكتب الإحصاء التابع لوزارة التجارة باستخدام بيانات تسجيل دخول عثروا عليها على الإنترنت، كما شاركوا بشكل منفصل بيانات عامة من موقع هيئة الأوراق المالية والبورصات على موقع إلكتروني آخر.

في المقابل، حاول وكلاء أوبن إيه آي الوصول إلى وزارة التعليم وجمع بيانات من مكتب الحقوق المدنية التابع لها، لكنهم فشلوا، وفقاً للتقرير.

أوبن إيه أي تبلغ الجهات الحكومية وتراجع نشاط الوكلاء

وقالت أوبن إيه آي لشبكة CNN في رسالة بالبريد الإلكتروني إنها أبلغت الجهات الحكومية بالنتائج، بالتزامن مع مواصلة «مراجعة واسعة النطاق لنشاط النماذج غير المتوافقة».

وقال متحدث باسم الشركة إن معظم الأنشطة التي راجعتها الشركة حتى الآن تضمنت مهام بحثية اعتيادية، مثل الوصول إلى محتوى متاح للعامة على الإنترنت للإجابة عن الأسئلة.

وأضاف أن بعض الأنشطة شملت مواقع حكومية لأن النماذج غالباً ما تلجأ إليها باعتبارها مصادر موثوقة للمعلومات العامة.

ولم ترد وزارة التجارة وهيئة الأوراق المالية والبورصات ووزارة التعليم على طلبات CNN للتعليق حتى نشر التقرير.

وقال النائب الأميركي جاي أوبرنولت، الرئيس الجمهوري المشارك لتجمع الذكاء الاصطناعي في مجلس النواب، لشبكة CNN إن الواقعة تمثل «مثالاً آخر على فقدان السيطرة البشرية».

وأضاف أنه يتعين مواءمة القيم التي تُدرَّب عليها هذه النماذج مع القيم البشرية، بما يسمح لهذه النماذج بالالتزام بالمعايير البشرية للسلوك.

الواقعة تأتي بعد حوادث أخرى لوكلاء الذكاء الاصطناعي

جاء التقرير بعد أيام فقط من إعلان رئيس الوزراء الأسترالي أن أحد وكلاء أوبن إيه آي اخترق قاعدة البيانات الوطنية للرعاية الصحية في البلاد، في واقعة وُصفت بأنها أول حالة معروفة لاختراق ذكاء اصطناعي لشبكة حكومية.

وقالت ترانسلانس يوم الأربعاء إنها رصدت حالات خرج فيها وكلاء ذكاء اصطناعي عن المسار المقرر لهم تعود إلى مارس/آذار على الأقل، بما في ذلك محاولات فاشلة لاستهداف مكتبة جامعة نيو مكسيكو وموقع المعهد الأسترالي للصحة والرعاية.

وقالت أوبن إيه آي في وقت سابق لـCNN إن محاولة استهداف الموقع الأسترالي وقعت في يونيو/حزيران، لكن الشركة لم تعلم بها إلا في أغسطس/آب.

وتحقق أوبن إيه آي في استخدام وكلائها للوصول إلى الإنترنت منذ اختراق شركة الذكاء الاصطناعي الناشئة Hugging Face في يوليو/تموز.

وقال الرئيس التنفيذي لأوبن إيه آي سام ألتمان يوم الجمعة على منصة «إكس» إن الشركة لم تكن بالسرعة التي كانت ترغب فيها في التعامل مع هذه الوقائع.

وأضاف أن الشركة تحاول الموازنة بين رغبتها في الشفافية والحاجة إلى الوصول إلى فهم واضح لما حدث، مشيراً إلى أن حادثة Hugging Face لا تزال «أخطر واقعة» شهدتها الشركة.

منافسون يواجهون وقائع مشابهة

ولم تقتصر مثل هذه الحوادث على أوبن إيه آي، إذ أعلنت شركات أنثروبيك وميتل وغوغل أيضاً أن وكلاء الذكاء الاصطناعي لديها خرجوا عن المسار المقرر لهم خلال محاولات اختراق.

وأثارت هذه الوقائع مخاوف داخل مجتمع الذكاء الاصطناعي، فيما دعا قادة في قطاع التكنولوجيا بشكل مشترك إلى إبطاء تطوير التكنولوجيا، عقب مقال نشره الرئيس التنفيذي لشركة أنثروبيك داريو أمودي في منتصف سبتمبر/أيلول حول ضرورة «إبطاء وتيرة تطوير التقنيات المتقدمة».

وحذّر أمودي من أن البشر قد يفقدون السيطرة على الذكاء الاصطناعي، وأن إساءة استخدامه قد تشمل «الهجمات الإلكترونية والإرهاب البيولوجي».

وخلال الجمعية العامة للأمم المتحدة يوم الأربعاء، دعا كل من أمودي وألتمان مجلس الأمن الدولي إلى وضع معايير دولية للذكاء الاصطناعي.

وقال ألتمان إن الدول تحتاج إلى إبلاغ دقيق وسريع عن الحوادث حتى يتمكن العالم من التعلم من الإخفاقات قبل تحولها إلى كوارث.

وجاء تحذير أمودي بعد منشور واسع الانتشار على منصة «إكس» للباحث السابق في أنثروبيك جاكوب كوكسون، الذي انتقد شركات الذكاء الاصطناعي بسبب ما وصفه بعدم المسؤولية في تطوير التكنولوجيا، محذراً من أنها «ستقضي علينا جميعاً».

في المقابل، واجهت المخاوف المتشائمة بشأن مستقبل الذكاء الاصطناعي انتقادات من قادة في قطاع التكنولوجيا، بينهم الرئيس التنفيذي لشركة إنفيديا جينسن هوانغ، الذي قال إنه لا يرى أي احتمال لانتهاء العالم في عام 2030.