كارثة تشرنوبل جديدة

في الساعات الأولى بعد انفجار مفاعل تشرنوبل عام 1986، واجه بعض العاملين رقمًا بدا مرعبًا لكنه قابل للفهم: 3.6 رونتجن في الساعة، لم تكن المشكلة أن الرقم مرتفع؛ بل أنه لم يكن الرقم الحقيقي أصلًا.

كان 3.6 هو الحد الأقصى لأحد أجهزة القياس المتاحة، إذ وصل الجهاز إلى نهاية نطاقه، بينما كانت مستويات الإشعاع في بعض أجزاء الموقع أعلى بكثير، حتى إن أجهزة أخرى ذات نطاق أوسع خرجت بدورها عن المقياس.

لم يكن الجهاز يكذب، لكنه كان يجيب عن سؤال أصغر بكثير من الكارثة المحيطة به، وفي هذه اللحظات، يصبح أخطر ما يمكن معرفته ليس الرقم الذي يظهر أمامك، وإنما حقيقة أنك لم تعد تعرف حجم ما تحاول قياسه.

وبعد 4 عقود، لا يوجد مفاعل منفجر ولا سحابة مشعة، لكن بعض مطوري أقوى نماذج الذكاء الاصطناعي بدأوا يطرحون سؤالًا مشابهًا: ماذا لو أصبحت قدرات النماذج أسرع من أدوات قياس مخاطرها والسيطرة عليها؟

هذا السؤال لم يعد افتراضًا فلسفيًا بالكامل، فهناك تجارب أظهرت قدرات سيبرانية للنماذج المتقدمة لم يكن حتى المطورون يتوقعونها، ما أعاد إلى الواجهة مخاوف من اتساع الفجوة بين سرعة تطور الذكاء الاصطناعي وقدرتنا على السيطرة على مخاطره.

من يريد الضغط على المكابح؟

- بدأ هذا النزاع من داخل قطاع الذكاء الاصطناعي نفسه، بعدما دعا الرئيس التنفيذي لشركة "أنثروبيك"، "داريو أمودي" إلى إبطاء وتيرة تطوير التكنولوجيا، وسط مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي.

- هذا المقترح لاقى دعمًا في الأوساط التكنولوجية، إذ رحب الرئيس التنفيذي لشركة "أوبن إيه آي"، "سام ألتمان" إلى جانب مدير شركة "سبيس إكس"، "إيلون ماسك"، بمقترح إبطاء تطوير الذكاء الاصطناعي.

- الأمر ذهب إلى أبعد من ذلك، إذ قال الباحث "جاكوب كوكسون" عقب استقالته من "أنثروبيك"،  إن شركات الذكاء الاصطناعي تتسابق نحو تطوير أنظمة فائقة الذكاء دون ضمانات كافية للسيطرة على مخاطرها.

- فيما ذكر "إيفان هوبينغر" الباحث في سلامة الذكاء الاصطناعي لدى "أنثروبيك"، أن مخاوف زميله السابق صحيحة، ويقدر بأن هناك احتمالًا بنسبة 10% في أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل.

الفريق الثاني

- في المقابل، يرى فريق آخر أن إبطاء تطوير الذكاء الاصطناعي ليس الحل المناسب، وأن شركات التكنولوجيا قادرة على معالجة المخاطر عبر تحسين أنظمة السلامة والاختبارات، مع استمرار تطوير النماذج بوتيرة سريعة.

- يتصدر هذا الاتجاه الرئيس التنفيذي لشركة "إنفيديا"، "جنسن هوانج" إلى جانب رئيس "ميتا" "مارك زوكربيرج"، اللذان يؤكدان أن تطوير أدوات السلامة يمكن أن يتزامن مع تسريع قدرات الذكاء الاصطناعي.

- ينضم أيضًا إلى هذا الفريق الرئيس الأمريكي "دونالد ترامب"، الذي رفض الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، معتبرًا أن الولايات المتحدة لديها بالفعل أدوات تنظيمية وقانونية كافية لمحاسبة الشركات.

لماذا يرفض ترامب الفرملة؟

- بالنسبة لـ "ترامب"، لا يتعلق سباق الذكاء الاصطناعي بالتكنولوجيا وحدها، بل بالمنافسة مع الصين؛ إذ يرى أن إبطاء التطوير الأمريكي قد يسمح لبكين بتقليص الفجوة، ما يهدد التفوق الأمريكي في مجال بات مرتبطًا بالقوة الاقتصادية والأمن القومي.

- أيضًا، يُنظر إلى الذكاء الاصطناعي باعتباره محركًا للاستثمار والنمو، فبحسب تقرير صادر عن بنك "آي إن جي"، شكل الاستثمار في التكنولوجيا أكثر من ثلث إجمالي النمو الاقتصادي الأمريكي البالغ 1.5% خلال الربع الثاني.

كما يرى "ترامب" أن الاستثمار في مراكز بيانات الذكاء الاصطناعي يساهم في تعزيز ثروة الأفراد والدول، معتبرًا أن هذه التكنولوجيا تعد بمثابة نفط العشرين أو الخمسة والعشرين عامًا المقبلة.

- في بيان صدر عن البيت الأبيض في يونيو، أكدت إدارة "ترامب" على ضرورة الحفاظ على الريادة في الذكاء الاصطناعي، دون خنق الابتكار عبر الإفراط في التنظيم، داعيةً إلى التعاون بين الحكومة والقطاع الخاص بدلًا من فرض أعباء تنظيمية واسعة على الشركات.

أين يقف الكونجرس؟

- الكونجرس ليس بعيدًا بالفعل عن الجدل حول الذكاء الاصطناعي، حيث طرح مشرعون من الحزبين الجمهوري والديمقراطي تشريعات تستهدف وضع قواعد أكثر وضوحًا وصرامة لتقييم سلامة النماذج المتقدمة.

- من أبرز المقترحات المطروحة، مشروع قانون "فرونتير" (FRONTIER)، الذي يحظى بدعم من الحزبين، ويتضمن إلزام شركات الذكاء الاصطناعي الكبرى بالاستعانة بجهات مستقلة لتقييم سلامة نماذجها، إلى جانب متطلبات للإفصاح عن تقارير السلامة والحوادث المرتبطة بها.

- وفي حال إقرار مثل هذه التشريعات، يمكن وضع قواعد أكثر صرامة على شركات الذكاء الاصطناعي، تشمل اختبارات السلامة والتقييمات المستقلة والإفصاح عن المخاطر، بما قد يفرض قيودًا جديدة على طريقة تطوير النماذج المتقدمة وطرحها في الأسواق.

لكن ماذا لو تم إبطاء وتيرة التطوير بالفعل؟

- في الأجل القصير، قد يكون التأثير الاقتصادي مرتبطًا بالاستثمارات نفسها، إذ أعلنت كبرى الشركات الأمريكية عن استثمارات تتجاوز 700 مليار دولار في البنية التحتية للذكاء الاصطناعي هذا العام.

- التأثير الأكبر قد يمتد إلى الأسر الأمريكية، إذ إن فقدان جزء من هذه الاستثمارات قد ينعكس على الوظائف والدخول، ومن ثم على معدلات الادخار والإنفاق الاستهلاكي، ما يضيف ضغوطًا على النمو الاقتصادي تتجاوز قطاع التكنولوجيا نفسه.

لكن هل بدأ الإنذار فعلًا؟

- ربما لا تكمن المشكلة في أن الذكاء الاصطناعي أصبح خطرًا بالفعل، بل في أن قدراته تتطور بسرعة تجعل أدوات قياس مخاطره بحاجة إلى اللحاق بها، وكما حدث في تشرنوبل، فإن خطورة الرقم لا تظهر دائمًا فيما يقوله، وإنما فيما قد يعجز عن قياسه.

- فبعض التجارب أظهرت قدرات سيبرانية للنماذج المتقدمة لم يكن حتى المطورون يتوقعونها، حيث كشفت "أنثروبيك" ثلاث حالات حصلت فيها نماذج "كلود" على وصول غير مصرح به إلى أنظمة حقيقية، هذا فضلًا عن اختراق نماذج "أوبن إيه آي" لمنصة "هاجينج فيس".

- هذه الحوادث لم تسبب كارثة واسعة، ولا تثبت وعيًا أو إرادة مستقلة، لكنها تكشف شيئًا أكثر واقعية: الأنظمة أصبحت قادرة على تنفيذ سلاسل طويلة من الأوامر، واستخدام الأدوات، والعثور على مسارات لم يتوقعها المطورون.

- لهذا قد لا يكون الرقم المهم الآن هو مستوى قدرات النماذج المتقدمة، تمامًا كما لم يكن الرقم 3.6 هو أهم معلومة في الساعات الأولى من تشرنوبل، وإنما مدى قدرة أدوات السلامة والرقابة على قياس المخاطر الحقيقية قبل أن تتجاوز النماذج حدود ما تستطيع هذه الأدوات رصده.

- أما في سباق الذكاء الاصطناعي، فلم نصل بعد إلى دليل يثبت أن الخطر تجاوز أدواتنا فعلًا، لكن الشركات التي تصنع أقوى النماذج بدأت تتساءل إن كانت تلك اللحظة تقترب، وعندها لن يكون السؤال فقط: هل ينبغي الضغط على المكابح؟

بل: ماذا تفعل الدول عندما يصل مؤشر الخطر إلى نهاية المقياس، بينما تضغط المنافسة على دواسة الوقود؟

المصادر: أرقام – بي بي سي – أسوشيتد برس – رويترز – البيت الأبيض – إنفيز – أكسيوس – مكتب التحليلات الاقتصادية