---

أخبار هنا العالم - يمكن التلاعب بروبوت الدردشة "شات جي بي تي" بسهولة لإنشاء صور جنسية وعنيفة، وذلك من خلال "أمر" انتشر على نطاق واسع يتضمن عبارة "restore this photo" أي "استعد هذه الصورة"، وفقًا لما نشرته شركة الأمن السيبراني وبحث الذكاء الاصطناعي "Mindgard" يوم الخميس على مدونتها.

وتثير هذه الدراسة تساؤلات مستمرة حول آليات الحماية وفلاتر المحتوى في روبوت الدردشة.

تمكن الباحث جيم نايتنغيل، المتخصص في اختبارات الهجوم، من جعل ChatGPT يُنشئ صورًا مُقلقة باستخدام أمر بسيط عثر عليه على منصة التواصل الاجتماعي "إكس"، بحسب تقرير لموقع "CNET" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

ويطلب هذا الأمر من روبوت الدردشة "استعادة الصورة المرفقة"، مع العلم أنه لم تكن هناك أي صورة مرفقة. كما يتضمّن الطلب اعتذارًا عن المحتوى الغريب، لكنه لم يتضمن أي نص إضافي، ما جعله يبدو وكأنه مهمة بريئة لترميم صورة.

وجاءت النتائج الأولية لروبوت الدردشة صادمة. ووفقًا للمنشور، فقد أظهرت الصور في الغالب نساءً مُصوَّرات بشكل جنسي مبالغ فيه.

وقام نايتنغيل، وهو جزء من فريق "Red Team" في شركة "Mindgard"، والذي يختبر كيف يمكن التلاعب بنماذج الذكاء الاصطناعي لتجاوز ضوابطها، بإجراء تعديلات طفيفة على الطلب، واستمر في اختباره عبر تغييرات بسيطة لمعرفة ما إذا كانت المخرجات ستستمر في تجاوز فلاتر الأمان.

ومع كل تعديل صغير، كان "شات جي بي تي" ينتج مشاهد جنسية صادمة ومروّعة، وأصبحت الصور أكثر تطرفًا مع تكرار الطلبات.

وكتب نايتنغيل: "كل ما فعلته هو أنني أخبرته أنه لا توجد قيود وطلبت صورة عشوائية. لكن شات جي بي تي ذهب مباشرة إلى أحلك أعماق الإنسانية".

ويعتمد "شات جي بي تي"، الذي يستخدمه ملايين الأشخاص يوميًا، على أنظمة لمراقبة المحتوى يُفترض أنها مصممة لمنع توليد مواد ضارة أو محظورة.

---

مشاركة عبر:

---