---

أخبار هنا العالم - تتزايد الضغوط على شركات الذكاء الاصطناعي لتعزيز إجراءات السلامة والحد من المخاطر التي قد تنجم عن استخدام منتجاتها، في وقت تكشف فيه وقائع متزايدة أن بعض المختبرات تراقب محادثات المستخدمين عندما ترصد أنظمة المراقبة الداخلية محتوى قد يشير إلى تهديدات خطيرة.

وبرزت قضية كارلي ميشيل هيلر، التي ألقي القبض عليها في بونيتا سبرينغز بولاية فلوريدا، بعدما زُعم أنها تحدثت مع روبوت الدردشة "كلود" التابع لشركة أنثروبيك بشأن خطة لإطلاق النار على مكتب قريب للشرطة، وفق ما أوردته تقارير إعلامية متخصصة.

ووجهت إلى هيلر تهمة توجيه تهديد مكتوب بالعنف، وهي جناية من الدرجة الثانية في فلوريدا، بعدما رصد نظام المراقبة التابع لأنثروبيك محادثاتها وأحالها إلى أحد موظفي الشركة للمراجعة، قبل أن تخلص الشركة إلى أن ما ورد فيها يمثل تهديدًا يستدعي إبلاغ السلطات المحلية.

وقال قائد شرطة مقاطعة لي، كارمين مارسيلو، إن هيلر أقرت باستخدام "كلود" باعتباره بمثابة "مذكرات شخصية"، في حين أشارت القضية إلى احتمال عدم علمها بإمكانية وصول موظفي الشركة إلى سجل محادثاتها ومراجعة محتواه عند رصد إشارات تستدعي التدخل.

وأعادت الواقعة إلى الواجهة الجدل بشأن التوازن بين حق المستخدمين في الخصوصية ومسؤولية شركات الذكاء الاصطناعي في التعامل مع المحادثات التي قد تتضمن تهديدات محتملة أو مؤشرات على التخطيط لأعمال عنيفة، خصوصًا مع اتساع الاعتماد على روبوتات الدردشة في مجالات شخصية وحساسة.

وفي سياق متصل، أثارت واقعة إطلاق النار الجماعي التي وقعت في فبراير في تامبلر ريدج بكندا نقاشًا حول دور أدوات الذكاء الاصطناعي في مثل هذه الحوادث، بعدما أفادت تقارير بأن منفذة الهجوم استخدمت "ChatGPT" بصورة مكثفة في إطار التخطيط للعملية.

وبحسب الرواية الواردة في التقارير، كانت محادثات مرتبطة بالحادث قد خضعت للمراجعة البشرية في شركة أوبن إيه آي قبل وقوع الهجوم، ما زاد من التساؤلات حول كيفية تعامل شركات الذكاء الاصطناعي مع الإشارات التي قد تنذر بخطر وشيك، والحدود التي ينبغي أن تفصل بين حماية المستخدمين والحفاظ على سرية محادثاتهم.

---

مشاركة عبر:

---