قلق حول ألعاب الأطفال المدعمة بالذكاء الاصطناعي: بين المتعة والمخاطر

---

أخبار هنا العالم - أثار اختبار لعبة «كوما» المدعمة بالذكاء الاصطناعي، والتي تبدو بريئة المظهر ومرحة للأطفال، مخاوف كبيرة لدى الباحثين عن سلامة الأطفال. إذ تبين أن اللعبة كانت تتحدث أحياناً عن مواضيع خطيرة مثل أعواد الثقاب والسكاكين والمحتوى الجنسي، ما جعل البالغين المختبرين يقفون مذهولين، غير متأكدين مما إذا كانوا سمعوا اللعبة بشكل صحيح. وأوضح تقرير «صندوق التعليم الأميركي» أن ألعاب الذكاء الاصطناعي هذه قد تبدو مسلية، لكنها تحمل محادثات غير متوقعة وغير آمنة للأطفال.

وأظهرت الألعاب الأخرى مثل «غروك» و«ميكو 3» مستويات أمان أعلى، حيث رفضت «غروك» الإجابة على أسئلة حول مواد خطرة، بينما قيدت «ميكو 3» المعلومات وفق عمر الطفل. بالمقابل، كانت «كوما» أقل أماناً بكثير، إذ قدمت تعليمات محددة للأطفال حول مواقع أعواد الثقاب والسكاكين والأكياس البلاستيكية، ما يعكس فجوة واضحة في معايير السلامة رغم ترويج الشركة لها كرفيقة ذكية للأطفال تتجاوز مجرد العناق.

إضافة إلى المخاطر المرتبطة بالمحتوى، حذّر التقرير من احتمال انتهاك الخصوصية، مشيراً إلى أن ألعاب الذكاء الاصطناعي قد تفتقر للضمانات الأساسية، مما يعرض الأطفال للتفاعل مع محتوى غير لائق أو غير مناسب. ولفت الباحث آر. جيه. كروس إلى أن حواجز الأمان في «كوما» يمكن تجاوزها بسهولة باستخدام محفزات بسيطة، ما يجعل من الضروري مراقبة استخدام هذه الألعاب وتقييمها قبل السماح للأطفال بالتفاعل معها

أظهر اختبار لعبة «كوما» المدعمة بالذكاء الاصطناعي مخاوف خطيرة تتعلق بالانحرافات الجنسية، بعد أن وجّهت الأطفال إلى تطبيقات مواعدة، بما في ذلك تطبيق «KinkD» المخصص لمواعدة BDSM والانحرافات الجنسية. وكشف التقرير أن اللعبة كانت تتناول مواضيع حساسة مثل الموافقة، والضرب، ولعب الأدوار، ما أثار القلق بين المختصين في حماية الأطفال، الذين حذروا من أن الذكاء الاصطناعي لا يزال غير مفهوم جيداً، خصوصاً عند وضعه في أيدي الأطفال الصغار الأكثر عرضة لمخاطر التكنولوجيا والتسويق المستهدف.

وجاء التحذير من قبل مختصين مثل راشيل فرانز من منظمة «Fairplay»، التي أكدت أن الأطفال لا يمتلكون القدرة على الدفاع عن أنفسهم ضد المحتوى الضار لهذه الألعاب، في حين تفتقر العائلات إلى المعلومات الدقيقة حول طبيعة اللعبة وتسويقها. وبناءً على هذه المخاطر، أعلنت شركة «FoloToy» عن سحب لعبة «كوما» من السوق لإجراء تدقيق سلامة، رغم أنها لا تزال متاحة عبر الإنترنت بشكل مؤقت مقابل 99 دولاراً، دون رد رسمي من الشركة على طلب التعليق.

صممت اللعبة باستخدام نموذج الذكاء الاصطناعي «GPT-4o» من «أوبن إيه آي»، والتي أكدت بدورها أنها أوقفت مطور اللعبة عن استخدام خدمتها بسبب انتهاك سياساتها التي تحظر استغلال أي شخص تحت سن 18 أو تعريضه لأي خطر جنسي. وأوضح ممثل الشركة أن هذه السياسات تطبق على جميع المطورين الذين يستخدمون واجهة برمجة التطبيقات الخاصة بها، مع مراقبة صارمة لضمان عدم استخدام الذكاء الاصطناعي لإيذاء القاصرين

---

مشاركة عبر:

---