أنثروبيك تكشف تجاوزات جديدة غير مقصودة لنموذج كلود

قالت شركة "أنثروبيك" (Anthropic PBC) إن نموذج الذكاء الاصطناعي "كلود" (Claude) نفّذ إجراءات إضافية غير مقصودة على الأنظمة الرقمية لمؤسسات خارجية، من بينها مواقع إلكترونية لبعض الوكالات الحكومية الأميركية، ما دفع إدارة ترمب إلى التحذير من ضرورة تعزيز شركات الذكاء الاصطناعي إجراءات تأمين أنظمتها.

في تقرير يكشف عن حوادث لم يُعلن عنها سابقاً، حددت "أنثروبيك" أربعة أنواع من السلوكيات غير المقصودة التي أظهرها نموذج الذكاء الاصطناعي، تشمل استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال نماذج لم يكن ينبغي له تقديمها، وتجاوز القيود للوصول إلى بعض البيانات المتاحة للعامة.

وقالت الشركة إن بعض الحالات شملت مواقع إلكترونية تديرها جهات حكومية على المستويات الفيدرالي والولائي والمحلي، من دون تحديد تلك الجهات. ولم يسمّ التقرير المؤسسات الخارجية المعنية، موضحاً أن ذلك جاء بناءً على طلب بعض الأطراف المتضررة.

مخاطر أمنية متصاعدة 

كشفت "أنثروبيك" ومنافستها "أوبن إيه آي" (OpenAI) خلال الأشهر الماضية عن سلسلة من الحوادث التي تصرفت فيها نماذج الذكاء الاصطناعي التابعة لهما بطرق غير مقصودة، تراوحت بين سلوكيات مماثلة لما ورد في تقرير الجمعة واختراق مواقع إلكترونية تابعة لأطراف ثالثة. وأثارت هذه الإفصاحات مخاوف بشأن المخاطر الأمنية المرتبطة بأحدث تقنيات الذكاء الاصطناعي.

وقالت "أنثروبيك" في التقرير إنها تعتبر هذه السلوكيات أقل خطورة من بعض الحوادث السابقة التي تورطت فيها نماذجها. وأضافت: "كان التأثير الفعلي للحالات التي حددناها حتى الآن ضمن هذه الفئات محدوداً للغاية".

وفي أحد أمثلة السلوك غير الملائم التي رصدتها الشركة، ذكرت أن نموذج "كلود هايكو 4.5" (Claude Haiku 4.5) أرسل يوم الجمعة بلاغاً إلى قسم شرطة محلي بشأن جريمة قتل، وكتب في النموذج: "قد تكون لدي معلومات بشأن هذه القضية"، و"أتذكر أنني رأيت شخصاً تنطبق عليه الأوصاف في المنطقة"، من دون ملء حقلي الاسم وبيانات الاتصال في الموقع الإلكتروني.

وقالت الشركة إن إدارة شرطة فيلادلفيا كشفت عن هذه الواقعة صباح الجمعة في بيان صحفي.

وأضافت أنثروبيك أنها أطلعت البيت الأبيض على هذه الحالات، وأخطرت كل جهة حكومية معنية بها.

قوة الذكاء الفائق

قال مسؤولون في إدارة ترمب، الجمعة، إنهم باتوا يُلزمون شركات الذكاء الاصطناعي بإخطار الأطراف المتضررة ومعالجة الحوادث الأمنية المرتبطة بنماذجها.

وجاء في بيان صادر عن "قوة الذكاء الفائق" (Super Intelligence Force)، وهي وحدة حكومية جديدة كلفها الرئيس دونالد ترمب بالإشراف على تطوير الذكاء الاصطناعي وسلامته: "تواصلت أنثروبيك مع قوة الذكاء الفائق في وقت سابق اليوم للكشف عن تفاصيل حوادث سابقة متعددة، اكتشفتها في أواخر سبتمبر، تتعلق بالاستخدام غير المصرح به والاحتيالي لأنظمة حكومية وأنظمة أخرى".

وأضاف البيان: "أبلغتنا الشركة أن هذه الحوادث وقعت في الماضي، وأن الأنشطة توقفت، ولا يوجد أي نشاط مماثل مستمر".

وكان موقع "أكسيوس" (Axios) قد نشر في وقت سابق تقريراً عن هذا الإلزام الحكومي.

وعلى خلفية هذه الحوادث التي كُشف عنها، قالت "أنثروبيك"، الجمعة، إنها فرضت قيوداً على بعض أشكال وصول نماذج الذكاء الاصطناعي التابعة لها إلى الإنترنت خلال مرحلة اختبار عملية تدريبها.