خطأ من الذكاء الاصطناعي كاد يشعل حرباً بين أمريكا والصين

أثار تقرير استخباراتي، جرى تداوله في أوساط الجيش الأمريكي في ربيع هذا العام، بالتزامن مع الحرب مع إيران، حالة تأهب فورية، إذ أفاد بأن سفينة صينية في الشرق الأوسط كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية.

وبحسب أربعة مصادر مطلعة على الواقعة، تحرك الجيش الأمريكي لوضع خطط لاعتراض السفينة، بل إن عناصر مسلحة من الجيش كانت تستعد للصعود على متنها. كما أفاد مصدران - أحدهما شارك في المعلومات السابقة - بأن طائرات عسكرية كانت تحلق بالفعل في الجو.

ولم يكتشف المسؤولون حقيقة الأمر إلا قبيل بدء العملية المخطط لها، إذ دققوا في التقرير الذي أعده محلل تابع لقيادة العمليات الخاصة، ليتبين أنه أُنتج بمساعدة الذكاء الاصطناعي، وأن "الدردشة الآلية" (chatbot) التي استخدمها المحلل حددت بشكل خاطئ طبيعة المواد التي كانت تحملها السفينة. ولم تتمكن شبكة CNN من معرفة ماهية الشحنة التي جرى تحديدها بشكل خاطئ.

ووصف أحد المصادر التقرير بأنه كان "خاطئاً تماماً"، مشيراً في الوقت نفسه إلى أنه "كاد يشعل حرباً"، إذ إن أي عملية أمريكية ضد سفينة صينية كانت تنطوي على خطر الانزلاق نحو صراع مسلح بين البلدين.

ويسعى المسؤولون في الجيش الأمريكي ومجتمع الاستخبارات إلى دمج الذكاء الاصطناعي في كل جانب من جوانب عملهم تقريباً، بدءاً من تحليل الكميات الهائلة من البيانات الاستخباراتية الخام التي تجمعها الولايات المتحدة وتحديد أهداف الضربات، وصولاً إلى تطبيقات أكثر روتينية، مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.

لكن هذه الواقعة تسلط الضوء على المخاطر الكبيرة لاستخدام هذه التكنولوجيا القوية والحديثة، التي لا تزال غير مفهومة بشكل كافٍ، في عمليات استهداف خلال حرب. ولطالما حذر محللون من أن الذكاء الاصطناعي قد يؤدي إلى سوء تقدير كارثي إذا اعتمدت الدول على بيانات ضعيفة أو مغلوطة؛ وهو النوع من سوء التقدير الذي قد يدفع الولايات المتحدة إلى إطلاق النار على سفينة صينية استناداً إلى معلومات غير دقيقة.

وفي هذه الواقعة تحديداً، طرح المحلل سؤالاً على روبوت محادثة بشأن معلومات استخباراتية حول قائمة شحنات السفينة، وكانت هذه المعلومات قد صدرت في الأصل عن قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ (المتمركزة في هاواي). ولم يتضح ما إذا كان روبوت المحادثة المستخدم متاحاً تجارياً أو تابعاً للحكومة الأمريكية.

وقال مسؤول أمريكي سابق رفيع المستوى مطلع على أنظمة الذكاء الاصطناعي المستخدمة من جانب محللي الجيش وأجهزة الاستخبارات: "إن الأدوات الداخلية في معظمها مجرد نسخ من البرامج التجارية أُدخلت عليها تحسينات شكلية".

وقام روبوت المحادثة بدمج معلومات استخباراتية متاحة من مصادر مفتوحة مع معلومات استخباراتية سرية جرى جمعها عبر إشارات الاتصالات الموجودة في حوزة الحكومة، وتوصل إلى استنتاجه المصيري بشأن طبيعة المواد التي كانت السفينة تنقلها.

ثم استخدم المحلل الذكاء الاصطناعي مرة أخرى لصياغة النتائج في صورة تقرير استخباراتي قياسي، وهو النوع من التقارير الذي يثق به المسؤولون العسكريون، ثم جرى تعميمه.

ولم ترد قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ ووزارة الدفاع الأمريكية على طلب CNN للتعليق.

ويتمثل المبرر وراء الإسراع في تبني الذكاء الاصطناعي في قدرته على مساعدة الجيش في اتخاذ قرارات ميدانية، مثل تحديد الأهداف التي ينبغي ضربها أو تحديد أماكن نقل الأصول العسكرية، بوتيرة أسرع.

ويقول مسؤولون إن الولايات المتحدة لا تستطيع تحمل التأخر في دمج الذكاء الاصطناعي، تحسباً لاضطرارها يوماً ما إلى خوض حرب ضد الصين أو خصم آخر قد يكون قادراً على البقاء متقدماً على الولايات المتحدة بخطوة.

وفي يناير/كانون الثاني، أصدر وزير الدفاع الأمريكي بيت هيغسيث استراتيجية وزارته بعنوان "استراتيجية تسريع الذكاء الاصطناعي"، وذلك في مسعى لتسريع وتيرة استخدام الجيش لهذه التقنية.

وقال هيغسيث في كلمة ألقاها للإعلان عن الاستراتيجية: "سنطلق العنان للتجريب، ونزيل العقبات البيروقراطية، ونركز استثماراتنا، ونُظهر نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري".

كما تدفع الاستراتيجية نحو استخدام الذكاء الاصطناعي على نطاق واسع في مختلف أنحاء الجيش، إذ تأمر الوزارة بإتاحة الذكاء الاصطناعي عبر عدة برامج، بهدف "إتاحة تجارب الذكاء الاصطناعي وعمليات التحول الرقمي للجميع داخل الوزارة، وذلك بوضع نماذج الذكاء الاصطناعي الأمريكية الرائدة عالمياً مباشرة بين أيدي كوادرنا البالغ عددهم ثلاثة ملايين موظف مدني وعسكري، بمختلف مستويات التصنيف الأمني"، وذلك بحسب مذكرة الإعلان عن الاستراتيجية.

غير أن هذه الجهود تتسم باللامركزية - بحسب ما ذكره مسؤولون أمريكيون مطلعون على سير العمليات - حيث تستخدم جهات حكومية مختلفة أدوات متنوعة وتخضع لأوامر ومعايير سلامة متباينة. ولا توجد مجموعة موحدة من المعايير التي تتبعها الولايات المتحدة للتحقق من صحة المعلومات التي تولدها هذه الأدوات؛ إذ تعني كثرة وتنوع أنظمة الذكاء الاصطناعي التي تنشرها قطاعات متباينة داخل المؤسستين العسكرية والاستخباراتية أن مستويات الموثوقية والفاعلية تتفاوت بشكل كبير.

وعلى مدى أسابيع، انخرط صانعو السياسات في واشنطن في نقاشات مكثفة بشأن الذكاء الاصطناعي، بعد سلسلة من التحذيرات الخطيرة التي أطلقها مهندسون ورؤساء تنفيذيون في قطاع التكنولوجيا في وادي السيليكون بشأن احتمال خروج الذكاء الاصطناعي عن السيطرة البشرية، وما قد يترتب على ذلك من عواقب قد تهدد الحضارة.

لكن واقعة السفينة الصينية تسلط الضوء على خطر مختلف وأكثر إلحاحاً: أن يتخذ البشر قرارات كارثية استناداً إلى معلومات غير دقيقة أو مضللة ينتجها الذكاء الاصطناعي أو أنظمة آلية أخرى. وقالت المصادر إن الجيش يتجه بسرعة إلى استخدام الذكاء الاصطناعي للمساعدة في عمليات تحديد الأهداف، وهو مجال ينطوي على مخاطر واضحة بوقوع أخطاء قاتلة.

وقال مصدر آخر مطلع على السياسات الحالية للجيش: "إن استخدام الذكاء الاصطناعي في تحديد الأهداف يشهد توسعاً متزايداً، ولا توجد توجيهات فعلية توضح كيف يمكن لوجود عنصر بشري في حلقة اتخاذ القرار أن يحول دون وقوع إصابات في صفوف المدنيين أو حوادث نيران صديقة".

ووفقاً لأحد المصادر، فإن نوع "الهلوسة" (توليد معلومات خاطئة) الذي أنتجته الأداة المستخدمة من قبل المحلل في هذه الحالة لم يكن حادثة معزولة داخل مجتمع الاستخبارات منذ بدء انتشار هذه الأدوات في المؤسسات الحكومية.

وبالنسبة إلى بعض مسؤولي الاستخبارات الأكبر سناً، حتى أولئك الذين يؤيدون على نطاق واسع استخدام الذكاء الاصطناعي داخل الجيش، فقد فرض الذكاء الاصطناعي ضغوطاً على المحللين لإنتاج المعلومات الاستخباراتية وتعميمها بوتيرة أسرع، ما فتح الباب أمام وقوع أخطاء. وأشارت عدة مصادر إلى أن المحللين الشباب، على وجه الخصوص، نشأوا وهم معتادون على استخدام هذه الأدوات، مما يجعلهم أكثر ميلاً إلى الثقة بها دون إخضاعها لتقييم نقدي.

وقال أحد المصادر: "إن الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بسرعة أكبر".