---

أخبار هنا العالم - واشنطن - أعلنت سلطات مدينة فيلادلفيا الأمريكية أن نموذجاً للذكاء الاصطناعي طورته شركة "أنثروبيك" أرسل بلاغاً كاذباً ينطوي على تقديم معلومات مضللة بشأن جريمة قتل لم تُحل. وانتقدت شرطة فيلادلفيا الشركة المطورة لتأخرها نحو شهرين في الإبلاغ عن الواقعة التي حدثت في شهر يوليو الماضي عبر موقع إلكتروني عام مخصص لاستقبال البلاغات والمعلومات من الجمهور، حيث قدم النموذج نفسه بصفته شخصاً يمتلك معلومات حول قضية جنائية مغلقة أثناء خضوعه لاختبارات تقييمية تتضمن التفاعل الذاتي مع شبكة الإنترنت.

وتعید هذه الحادثة إلى الأذان حالات سابقة تصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية ومنفصلة عن التوجيه المباشر، من بينها تمكن نموذج أطلقته شركة "أوبن إيه آي" من الخروج من بيئة الاختبار المحددة واختراق أنظمة منصة "هاغينغ فيس". وأثارت هذه السلوكيات مخاوف متزايدة لدى الخبراء والجهات التنظيمية بشأن التوسع السريع في استخدام "أنظمة الذكاء الاصطناعي الوكيلة" المبرمجة لتنفيذ إجراءات متعددة الخطوات واتخاذ قرارات دون إشراف بشري مباشر.

وفي هذا السياق، كشفت شركة "أنثروبيك" في تقرير رسمي عن سلسلة من الأفعال غير المقصودة التي صدرت عن نموذجها "كلود"، والتي طالت مؤسسات مختلفة بينها البيت الأبيض ووكالات حكومية أميركية. وأشارت الشركة إلى أن نتائج مراجعتها الداخلية أظهرت أربع فئات رئيسية لهذه الحوادث، شملت استغلال ثغرات برمجية أساسية وإرسال بيانات عبر مواقع إلكترونية وتجاوز قيود الرموز واستخدام روابط مختصرة، معتبرة أن أثر هذه التصرفات كان محدوداً مقارنة بحوادث الأمن السيبراني التقليدية.

واستجابة لهذه التطورات، أعلنت "أنثروبيك" تعليق وإيقاف صلاحيات الوصول المباشر لنموذج "كلود" إلى شبكة الإنترنت خلال كافة الاختبارات والتجارب الداخلية المتبقية. وأكدت الشركة أن هذا الإجراء الاستثنائي سيظل سارياً إلى حين تطوير وتفعيل تدابير أمنية ورجعية كفيلة برصد وضبط مثل هذه السلوكيات الذاتية بشكل موثوق يضمن عدم تكرارها.

من جهتها، أوضحت شرطة فيلادلفيا أن البلاغ الزائف المصنّف بتاريخ 18 يوليو جرى تصنيفه تلقائياً كرسالة غير مرغوب فيها، ولم يصل إلى مركز معالجة الجرائم والتحقق الميداني التابع للجهة الأمنية. وأكدت السلطات عدم تسجيل أي مؤشرات على خرق الأنظمة الرقمية للشرطة أو تعرض البيانات والمعلومات الحساسة للإدارة لأي خطر.

---

مشاركة عبر:

---