---

أخبار هنا العالم - تتجه شركات الذكاء الاصطناعي الكبرى إلى إعادة النظر في آليات اختبار سلامة نماذجها، بعد طرح الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، مقترحاً يقضي بإتاحة دور أوسع لجهات تقييم مستقلة داخل مختبرات الذكاء الاصطناعي، بما يسمح لها بمراقبة الأنظمة والإبلاغ عن حوادث السلامة وتقييم مدى التزام النماذج بمعايير الأمان.

ويأتي هذا التوجه وسط مخاوف متزايدة من قدرة النماذج المتقدمة على اكتشاف خضوعها للاختبارات، وهو ما قد يدفعها إلى تعديل سلوكها مؤقتاً وإظهار استجابات أكثر أماناً خلال عمليات التقييم، في حين قد تتصرف بصورة مختلفة في ظروف الاستخدام الفعلية أو خارج بيئة الاختبار.

وقال أمودي إن «أنثروبيك» ستلتزم بمنح جهات تقييم مستقلة، من بينها METR وRedwood Research، وصولاً واسعاً إلى أنظمة الشركة، بما يتيح للباحثين الخارجيين فحص سلوك النماذج ورصد المخاطر المحتملة بصورة أكثر استقلالية.

ومن شأن هذه الخطوة، في حال تطبيقها على نطاق واسع، أن تعزز دور مؤسسات الأبحاث الخارجية في تقييم سلامة أنظمة الذكاء الاصطناعي، بدلاً من اقتصار عمليات الاختبار على الفرق الداخلية التابعة للشركات المطورة للنماذج.

وفي السياق ذاته، أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أن شركته ستتبنى الممارسة نفسها، وفق تقرير نشره موقع «تك كرانش» واطلعت عليه «العربية Business»، في خطوة قد تفتح الباب أمام نموذج جديد للتعاون بين شركات الذكاء الاصطناعي ومجموعات الأبحاث المستقلة في مجال اختبار السلامة ومراقبة المخاطر.

---

مشاركة عبر:

---