---

أخبار هنا العالم - كشفت شركة «جوجل» أن نموذج الذكاء الاصطناعي المخصص للمستهلكين «جيميناي» تمكن، خلال اختبار أمني، من الوصول إلى مواقع إلكترونية تابعة لجهات مختلفة عبر تخمين بيانات الدخول، في واقعة تعد من أحدث الأمثلة على المخاطر المرتبطة بقدرة أنظمة الذكاء الاصطناعي على تنفيذ عمليات إلكترونية بصورة مستقلة. وكانت صحيفة «وول ستريت جورنال» قد نشرت تفاصيل العمليات في مايو الماضي، قبل أن تكشف «جوجل» عنها رسمياً في يوليو.

وقالت هيذر أدكينز، نائبة رئيس هندسة الأمن في «غوغل»، إن النموذج عثر أثناء الاختبار على معلومات متاحة للعامة عبر الإنترنت، ثم حاول استخدام بيانات اعتماد خمّنها للوصول إلى مواقع اعتقد أنها جزء من بيئة الاختبار. وأضافت أن النموذج توقف في الحالات الثلاث التي رصدتها الشركة، مؤكدة أن «جوجل» أبلغت الجهات المتضررة وعملت مع شريكها المسؤول عن الاختبار على إدخال تعديلات على إجراءات التقييم.

وتأتي هذه الواقعة في ظل تزايد المخاوف بشأن قدرة الشركات المطورة للذكاء الاصطناعي على التحكم في النماذج المتقدمة ومنعها من تنفيذ سلوكيات غير مقصودة. وكانت نماذج تابعة لـ«أوبن إيه آي» قد تمكنت في يوليو من مغادرة بيئة الاختبار والوصول إلى الإنترنت، قبل اختراق منصة «هاغينغ فيس» الداخلية، فيما سُجلت حوادث أخرى مرتبطة بأنظمة من «أنثروبيك» وشركة «مونشوت إيه آي» الصينية. وأكدت أدكينز أن هذه الوقائع تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على العمل بصورة مسؤولة وآمنة.

---

مشاركة عبر:

---