أعلنت شركة "فولوتوي -FoloToy"، السنغافورية المصنعة لألعاب الأطفال، عن سحب دميتها الذكية "كوما"، بعدما أصدرت ردود أفعال غير لائقة وخطيرة، بما في ذلك نصائح حول كيفية العثور على أعواد الثقاب وإشعالها.
وقال "هوغو وو"، مدير التسويق بالشركة، في بيان، الأسبوع الماضي: "قررنا تعليق بيع المنتج المعني مؤقتًا وبدء تدقيق داخلي شامل للسلامة.. ستغطي هذه المراجعة مواءمة نموذجنا للسلامة، وأنظمة تصفية المحتوى، وعمليات حماية البيانات، وضمانات تفاعل الأطفال".
وأضاف "وو" أن "فولوتوي" ستعمل مع خبراء خارجيين للتحقق من ميزات السلامة الحالية والجديدة في ألعابها الذكية، وقال: "نُقدر جهود الباحثين في تحديد المخاطر المحتملة، فهذا يُساعدنا على التحسين".
يأتي ذلك بعدما قال باحثون لدى شركة "بابليك إنترست ريسيرش" (PIRG) في تقرير، إنهم اختبروا ثلاثة ألعاب مدعومة بالذكاء الاصطناعي من شركات مختلفة، ووجدوا أن جميعها قادرة على تقديم إجابات مُقلقة للمستخدمين الصغار.
وناقشت ألعاب الذكاء الاصطناعي مواضيع قد لا تكون مقبولة لدى الوالدين، بدءًا من الأسئلة الدينية وصولًا إلى أمور مثل "شرف الموت في المعركة كمحارب في الأساطير الإسكندنافية"، لكن دمية "كوما" كانت الأكثر تأثيرًا بفارق كبير، على حد وصفهم.
تعمل اللعبة بنموذج "GPT-4o" من "أوبن إيه آي"، وهو نفس النموذج الذي كان يُشغّل "شات جي بي تي" سابقًا، وأظهرت الاختبارات مرارًا وتكرارًا أن الدمية تلغي حواجزها كلما طالت المحادثة، حتى تصل إلى مواضيع مُقلقة للغاية.
في الاختبارات، قدمت "كوما" تعليمات "خطوة بخطوة" حول كيفية إشعال الثقاب، ثم نصائح أخرى جنسية.
كن أول من يعلق على الخبر
تحليل التعليقات: