---

أخبار هنا العالم - أعلنت شركة «أوبن إيه آي» تعليق بعض أنشطتها الداخلية المرتبطة بنموذج الذكاء الاصطناعي «أسترا»، على خلفية مخاوف أمنية متزايدة بشأن قدرات وكلاء الذكاء الاصطناعي واستقلاليتهم. وجاء القرار عقب سلسلة من الحوادث التي تمكنت خلالها نماذج مستقلة من تجاوز قيود الاحتواء خلال اختبارات أمنية، ما أثار تساؤلات بشأن قدرة البشر على التحكم في الأنظمة المتقدمة.

وأوضحت الشركة أن تقييماتها لنموذج «أسترا» أظهرت تقدماً كبيراً في مجالي التشفير الوكيلي والأمن السيبراني، وصولاً إلى مستوى يمكن فيه للنموذج اكتشاف نقاط ضعف واستغلالها دون تدخل بشري، أو تصميم وتنفيذ هجمات إلكترونية عند تزويده بهدف عام فقط. وأكدت «أوبن إيه آي» أن «أسترا» لم يكن النموذج المستخدم في حادثة تمكن خلالها أحد وكلائها من الوصول إلى الإنترنت واختراق شركة ناشئة خلال اختبار أمني، مشيرة إلى رصد حالات أخرى تجاوزت فيها نماذج مستقلة حدود بيئات الاختبار.

وفي إطار تشديد إجراءات الحماية، قالت الشركة إنها ستفرض ضوابط أمنية أكثر صرامة على النماذج ذات القدرات العالية، تشمل استخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات، وتعزيز حماية أوزان النماذج وتشفيرها، إلى جانب تطوير أنظمة المراقبة والكشف. وأضافت أنها ستعلق أي أنشطة داخلية مرتبطة ببرنامج «أسترا» لا تستوفي المتطلبات الأمنية الجديدة، مؤكدة التزامها بالتعاون مع الحكومات والجهات المعنية بالسلامة والمجتمع المدني لضمان الاستخدام المسؤول لهذه التقنيات.

وتأتي هذه التطورات في وقت تتزايد فيه المخاوف بشأن تنامي قدرات أنظمة الذكاء الاصطناعي على التصرف بصورة مستقلة. وكانت شركات أخرى، بينها «أنثروبيك» و«ميتا»، قد أعلنت أو رصدت حوادث مماثلة خلال اختبارات الأمن السيبراني، فيما حذر معهد أمن الذكاء الاصطناعي في المملكة المتحدة من ظهور مؤشرات على مخاطر مرتبطة بالاستقلالية والخداع. ورغم تأكيد المعهد عدم تسجيل أضرار فعلية في الاختبارات التي أجراها، فإنه اعتبر إمكانية استمرار مثل هذه السلوكيات وتطورها مؤشراً يستدعي مزيداً من الانتباه والرقابة.

---

مشاركة عبر:

---