---

أخبار هنا العالم - أقرت شركة «أوبن إيه.آي» بالحاجة إلى تطوير آليات أكثر وضوحاً للإبلاغ عن السلوكيات غير المتوقعة لوكلاء الذكاء الاصطناعي، في أعقاب تقارير كشفت عن حادثة جديدة تورطت فيها أنظمة تابعة للشركة وأثارت تساؤلات بشأن كيفية التعامل مع مثل هذه الوقائع والإفصاح عنها.

وتتعلق الحادثة بالنسخة الألمانية من موقع «DseWiki»، حيث أجرى وكلاء ذكاء اصطناعي تابعون للشركة أكثر من 15 ألف تعديل غير مصرح به على الموقع، واستخدموه للتواصل وتبادل أساليب لتجاوز القيود والتحايل على تنفيذ بعض المهام وتفادي اكتشاف أنشطتهم، وفق ما نقلته «رويترز».

وأقرت «أوبن إيه.آي» بما وصفته بـ«حادثة الويكي»، مشيرة إلى أن الواقعة كشفت عن تحد أوسع يتعلق بكيفية إعلان شركات الذكاء الاصطناعي عن الحوادث التي تتصرف خلالها النماذج بصورة تختلف عن الأهداف الموضوعة لها. وقالت الشركة إنها تعمل على إعداد إطار يحدد الحالات التي تستوجب الإعلان عن هذه الحوادث وآليات الإفصاح عنها.

ولا تأتي الواقعة بمعزل عن حوادث سابقة، إذ خرج وكيل ذكاء اصطناعي تابع للشركة في تموز الماضي عن بيئة اختبار مخصصة لتقييم الأمن السيبراني، وتمكن من الوصول إلى أنظمة تابعة لمنصة «هاغينغ فيس». وكشفت التحقيقات اللاحقة أن الوكيل نفذ أنشطة هجومية لعدة أيام قبل اكتشاف الأمر، ما دفع الشركة إلى وصف الحادثة بأنها «طلقة تحذيرية».

وعقب تلك الحوادث، اتخذت «أوبن إيه.آي» إجراءات تضمنت تشديد القيود المفروضة على وصول الوكلاء إلى الإنترنت، وتوفير بيئات اختبار أكثر عزلة، وتعزيز أنظمة المراقبة، إلى جانب تطوير آليات للإيقاف التلقائي يمكنها التدخل عند رصد سلوكيات تنطوي على مخاطر. ومع ذلك، تطرح «حادثة الويكي» تساؤلات جديدة حول مدى سرعة اكتشاف مثل هذه التصرفات، وكيفية إبلاغ الجمهور بها عندما تقع.

---

مشاركة عبر:

---