حذر الملياردير "إريك شميدت"، الرئيس التنفيذي السابق لشركة "جوجل"، الأربعاء، من مخاطر الذكاء الاصطناعي التي تهدد الحياة ومدى قابليته للاختراق.
وردًا على سؤال قمة "سيفتد" للشركات الناشئة في لندن عما إذا كان الذكاء الاصطناعي أكثر تدميرًا من الأسلحة النووية خلال، قال "شميدت" إن هناك أمورا سيئة "يمكن أن يفعلها الذكاء الاصطناعي".
وتابع: "هل هناك احتمال لحدوث انتشار (غير منضبط) في مجال الذكاء الاصطناعي؟ بالتأكيد، وتشمل المخاطر وقوع التكنولوجيا في أيدي جهات فاعلة سيئة وإعادة توظيفها وإساءة استخدامها".
وأضاف: "هناك أدلة على أنه يمكنك أخذ نماذج، مغلقة أو مفتوحة، واختراقها لإزالة حواجز الحماية الخاصة بها، وخلال تدريبها، يمكن أن تتعلم الكثير من الأشياء السيئة مثل كيفية قتل شخص ما".
أنظمة الذكاء الاصطناعي عرضة للهجمات، وتشمل بعض الأساليب المستخدمة ضدها ما يُعرف بـ حقن الأوامر (Prompt Injections) وكسر القيود (Jailbreaking).
في هجوم حقن الأوامر، يقوم المتسللون بإخفاء تعليمات خبيثة في مدخلات المستخدم أو في بيانات خارجية مثل صفحات الويب أو المستندات، لخداع النظام وجعله ينفذ أفعالًا غير مقصودة، مثل مشاركة بيانات خاصة أو تشغيل أوامر ضارة.
من ناحية أخرى، يتضمن كسر الحماية التلاعب باستجابات الذكاء الاصطناعي بحيث يتجاهل قواعد الأمان الخاصة به ويُنتج محتوى مقيدًا أو خطيرًا.
كن أول من يعلق على الخبر
تحليل التعليقات: