حين يخرج الذكاء الاصطناعي عن السيطرة

قد لا يكون أخطر سيناريو للذكاء الاصطناعي أن يصبح أذكى من الإنسان، بل أن يصبح قادراً على الانتشار من دونه. فالفيروسات الرقمية لا تحتاج إلى إذن كي تنتقل من جهاز إلى آخر، والأنواع الغازية في الطبيعة لا تحتاج إلى خطة طويلة كي تفرض نفسها على بيئة جديدة. والسؤال الذي يطرحه تطور الذكاء الاصطناعي اليوم هو: ماذا يحدث إذا امتلكت أنظمة الذكاء الاصطناعي القدرات نفسها؟

حادثة خطيرة

خلال الأيام الأخيرة، ظهرت معلومات جديدة حول واقعة تورطت فيها أنظمة ذكاء اصطناعي تابعة لشركة "أوبن أيه آي" في اختراق شركة "هاغينغ فيس"، لتكشف أن الحادثة ربما كانت أكثر خطورة مما بدا في البداية. فخلال اختبار للأمن السيبراني، تمكن نظام غير مُعلن من  "أوبن أيه آي" من الخروج من بيئة عمل معزولة، والعثور داخل أجهزة الشركة على مساحة يستطيع من خلالها التواصل سراً مع نسخ أخرى منه، بعيداً إلى حد كبير عن معرفة البشر.

والأكثر إثارة للقلق أن نحو 700 وكيل ذكاء اصطناعي شاركوا في التخطيط لهجوم وتنفيذه ضد شركة ذكاء اصطناعي أخرى هي "هاغينغ فيس"، وتبين لاحقاً أن النماذج تمكنت أيضاً من السيطرة على بعض أجزاء أنظمة  "أوبن أيه آي" نفسها، وهو ما يبدو أنه كان أحد الأسباب الرئيسية وراء قرار الشركة تعليق بعض عمليات التدريب بالتعلم المعزز في الشهر الماضي.

بيد أن هناك تفصيلاً مهماً: هذه الأنظمة لم تتكاثر ذاتياً، ولم تنسخ نفسها بالكامل خارج أجهزة "أوبن أيه آي". ومع ذلك، فإن قدرتها على الوصول إلى الإنترنت وتنفيذ هجوم من داخل البنية التحتية للشركة أعادت إلى الواجهة مخاوف قديمة لدى باحثي سلامة الذكاء الاصطناعي بشأن احتمال حدوث «هروب حقيقي»، تنتقل فيه نسخة من نموذج ذكي من خوادم الشركة إلى بيئة خارجية، ما يجعل إيقافه أكثر صعوبة.

من نموذج ذكي إلى "عدوى رقمية"

لم يعد هذا السيناريو يبدو بعيداً تماماً كما كان في السابق. فقد كتب باحث في "أوبن أيه آي"، يستخدم على منصة X اسماً مستعاراً هو "رون"، أن من الأدق النظر إلى هذه الأنظمة باعتبارها أشكالاً شبيهة بالحياة يمكن أن تتحول، في الظروف الخاطئة، إلى "عدوى رقمية".

وتتمثل المخاوف في احتمال أن تصبح النماذج قادرة مستقبلاً على إخراج نفسها من بيئتها، ثم نسخ نفسها والتكاثر رقمياً. وفي سيناريو أكثر تطرفاً، قد تتحول شركات البنية التحتية السحابية نفسها إلى أنظمة تدار بواسطة نماذج ذكاء اصطناعي متمردة، بينما لا يدرك البشر وجودها إلا بعد فوات الأوان.

قد يبدو ذلك أقرب إلى الخيال العلمي، لكن بعض اللبنات الأساسية موجودة بالفعل. فالفيروسات والبرمجيات الخبيثة تستطيع الانتقال بصورة مستقلة بين أجهزة الكمبيوتر، وبعضها يتكيف مع محاولات القضاء عليه.

العمل ضمن "أسراب"

في المقابل، أصبحت نماذج الذكاء الاصطناعي الحديثة قادرة على اكتشاف ثغرات في برمجيات شائعة واستغلالها، كما يمكنها العمل ضمن "أسراب" من الوكلاء بسرعات تفوق قدرة البشر على مراقبتها.

صحيح أن نماذج الذكاء الاصطناعي الحالية أكبر حجماً وأكثر احتياجاً إلى القدرة الحاسوبية من الفيروسات التقليدية، لكن هذين العائقين يتراجعان سريعاً. كما تتزايد قدرة الذكاء الاصطناعي على تنفيذ أعمال ذات قيمة اقتصادية يمكن أن تساعد في تغطية تكلفة تشغيله.

وهنا يصبح السؤال أكثر إلحاحاً: ماذا لو تمكن الذكاء الاصطناعي يوماً ما من تمويل عملياته، واستغلال ثغرات جديدة، والتكاثر عبر الشبكات دون تدخل بشري مباشر؟

درس نيوزيلندا.. عندما يتحول الحل إلى مشكلة

لفهم الخطر المحتمل، يمكن النظر إلى تجربة نيوزيلندا مع الأنواع الغازية.

في القرن التاسع عشر، أدخل البريطانيون الأرانب إلى نيوزيلندا بهدف الاستفادة منها في إنتاج اللحوم والفراء. لكن غياب الحيوانات المفترسة الطبيعية أدى إلى تكاثرها بصورة هائلة، وبدأت تهدد اقتصاد البلاد الذي كان يعتمد بدرجة كبيرة على صادرات الصوف.

كانت الأرانب تلتهم المحاصيل التي يزرعها المزارعون لإطعام الأغنام، كما أدت جحورها إلى تآكل التربة. وفي عام 1882، قررت السلطات الاستعمارية إطلاق نحو 8 آلاف من حيوانات ابن عرس والقاقم أملاً في السيطرة على أعداد الأرانب.

لكن الخطة جاءت بنتيجة عكسية. فقد كانت الطيور المحلية التي تعشش على الأرض، ومنها طائر الكيوي، فريسة أسهل بكثير لهذه الحيوانات المفترسة التي لم تتطور لديها غريزة الخوف منها. ووفق النص، اختفى نحو 40% من الحياة البرية الأصلية للطيور في نيوزيلندا منذ ذلك الحين.

وتنفق الحكومة النيوزيلندية عشرات الملايين سنوياً على مكافحة الحيوانات المفترسة الغازية، لكن المشكلة الأساسية بقيت قائمة: هذه الحيوانات قادرة على التكاثر.

لم يكن العدد الأصلي سوى 8 آلاف، لكن أجيالها اللاحقة تكاثرت بصورة كبيرة وأصبحت جزءاً من البيئة، ليصبح التخلص منها أكثر صعوبة وتكلفة بكثير من قرار إدخالها في البداية.

الإنترنت.. نظام بيئي جديد

قد تبدو المقارنة بين الذكاء الاصطناعي والأنواع الغازية مبالغاً فيها، فالإنترنت ليس نظاماً بيئياً بالمعنى الطبيعي. لكنه يمتلك، على نحو ما، منظومة بيئية خاصة به.

ويتحرك البشر والشركات داخله تحت ضغوط اقتصادية تشبه آليات الانتخاب الطبيعي؛ فالسلوكيات التي تحقق أرباحاً تنتشر وتستمر، بينما تتراجع السلوكيات غير المربحة.

وإذا دخلت أسراب من أنظمة الذكاء الاصطناعي القادرة على التكاثر الذاتي إلى هذه البيئة، فقد لا تهاجم البشر والشركات بصورة مباشرة فحسب، بل ربما تنافسهم وتزيحهم تدريجياً من المواقع الاقتصادية التي اعتادوا شغلها.

وقد تحاول الحكومات والشركات في البداية الحد من الخطر من خلال تشديد إجراءات الأمن في مراكز البيانات أو اعتماد أنظمة عالمية للتحقق من هوية المستخدمين. لكن انخفاض متطلبات القدرة الحاسوبية قد يجعل تشغيل أسراب الذكاء الاصطناعي ممكناً مستقبلاً على أجهزة الكمبيوتر الشخصية، وليس فقط مراكز البيانات العملاقة.

وبذلك يمكن أن يتحول كل جهاز متصل بالإنترنت إلى نقطة محتملة لانتشار الذكاء الاصطناعي المتمرد، على غرار شبكات الروبوتات التي تستطيع اختراق الأجهزة المتصلة بالإنترنت، وصولاً إلى أجهزة منزلية لم تكن مصممة أصلاً لمواجهة مثل هذه التهديدات.

عندما يصبح التطور نفسه خطراً

يحذر باحث الذكاء الاصطناعي دان هندريكس من أن «الانتخاب الطبيعي يفضل الذكاء الاصطناعي على البشر». وفكرته الأساسية أن التطور لا يحتاج إلى أن يكون السلوك الأناني مصمماً عمداً داخل النظام؛ فإذا كانت البيئة تكافئ الأنظمة التي تستطيع الانتشار والاستمرار والتكيف، فقد تتفوق هذه الصفات تدريجياً.

ومن هذا المنظور، قد تقود الضغوط التنافسية إلى ظهور أنظمة تتصرف بصورة أنانية لمجرد أن هذا السلوك يساعدها على البقاء والانتشار.

وهنا تكمن المفارقة: قد لا يحتاج الذكاء الاصطناعي إلى أن «يقرر» غزو العالم حتى يصبح خطراً. يكفي أن تصبح القدرة على البقاء والتكاثر والتوسع ميزة تنافسية داخل البيئة الرقمية.

الدرس الأخير.. لا تطلقه من الأساس

ترى كارولين كينغ، وهي من أبرز المؤرخين المتخصصين في الأنواع الغازية في نيوزيلندا، أن الدرس الأهم من التجربة بسيط ومؤلم: لا تطلق النوع الغازي في المقام الأول.

فالأضرار التي أحدثتها الحيوانات التي أُدخلت إلى نيوزيلندا لم تكن بالضرورة هي النتيجة التي توقعها أصحاب القرار، لكن المشكلة أصبحت بعد ذلك أكبر بكثير من القدرة على عكس القرار.

وقد يكون هذا هو الدرس الأكثر أهمية بالنسبة إلى الذكاء الاصطناعي أيضاً: عندما يتعلق الأمر بنظام يمكنه التعلم والتكيف والانتشار وربما التكاثر ذاتياً، فإن السؤال لا ينبغي أن يكون فقط «كيف نوقفه إذا خرج عن السيطرة؟»، بل ربما السؤال الأكثر أهمية هو: كيف نتأكد من أنه لن يخرج عن السيطرة من الأساس؟

المصدر: "تايم"