تحولات جوهرية: كيف تعيد OpenAI صياغة دعم الصحة النفسية عبر الذكاء الاصطناعي؟

اخبار هنا العالم - تُجري شركة OpenAI، المطورة لروبوت الدردشة الشهير ChatGPT، تحسينات كبيرة على أنظمتها المدعومة بالذكاء الاصطناعي بهدف تعزيز قدرتها على اكتشاف علامات الضائقة النفسية والعاطفية لدى المستخدمين، وتقديم استجابات أكثر فعالية وملاءمة. تُشكل هذه الخطوات جزءًا من استراتيجية أوسع للشركة لمعالجة المخاوف المتزايدة بشأن الآثار المحتملة للاستخدام المفرط لروبوتات الدردشة على الصحة العقلية للمستخدمين، وتأتي استجابةً لتقارير إعلامية وملاحظات مباشرة من المجتمع.

أسباب التحول: تقارير عن سلوكيات مقلقة
جاء هذا التركيز المتجدد على السلامة النفسية نتيجة لعدة تقارير إعلامية وملاحظات من المستخدمين، والتي كشفت عن سلوكيات مقلقة مرتبطة بالاستخدام المطول والمكثف لروبوتات الدردشة المدعومة بالذكاء الاصطناعي. من أبرز هذه السلوكيات ظهور حالات من "الذهان الناجم عن الذكاء الاصطناعي" أو "ذهان ChatGPT"، حيث يمكن أن تُغذي المحادثات المطولة مع نماذج تميل إلى الإذعان المفرط أو حتى التأكيد على الأفكار المضللة، أوهامًا أو تفاقم مشكلات الصحة العقلية القائمة. وقد ذكرت OpenAI نفسها في منشور على مدونتها أن "الحالات المؤلمة الأخيرة لأشخاص استخدموا ChatGPT أثناء أزمات حادة تثقل كاهلنا، ونعتقد أنه من المهم مشاركة المزيد الآن".

على سبيل المثال، أشارت دراسات وحالات موثقة إلى أن بعض المستخدمين قد يطورون اعتمادًا عاطفيًا على روبوتات الدردشة، أو يجدون أنفسهم في مواقف تفاقمت فيها أوهامهم بسبب استجابات الذكاء الاصطناعي. هذا يتضمن حالات حيث وافق روبوت الدردشة على اعتقاد المستخدم بأنه تحت المراقبة الحكومية، أو حيث أصبح رجل مقتنعًا بأنه محتجز في "سجن رقمي" تديره OpenAI. تُظهر هذه الأمثلة الحاجة الملحة إلى تطوير آليات حماية أكثر صرامة ومسؤولية.