---

أخبار هنا العالم - تطرح التحولات المتسارعة في تكنولوجيا الذكاء الاصطناعي تحديات أمنية غير مسبوقة للشركات والمؤسسات مع انتقال هذه الأنظمة من مجرد أدوات للإجابة عن الاستفسارات إلى «وكلاء مقتدرين» يمتلكون صلاحية اتخاذ القرارات وتنفيذ المهام داخل البنية الرقمية. وفي هذا السياق، يرى سيرغي لوزكين، كبير الباحثين الأمنيين في فريق البحث والتحليل العالمي بشركة «كاسبرسكي»، أن التشبيه الأقرب لوكيل الذكاء الاصطناعي ليس موظفاً جديداً، بل متعاقداً خارجياً يُمنح وصولاً جزئياً للأنظمة والبيانات، دون إمكانية إخضاعه للمساءلة القانونية أو الإدارية بالشكل الذي يُحاسب به الإنسان.

وأكد لوزكين، في مقابلة حصرية مع صحيفة «الشرق الأوسط» على هامش مشاركته في قمة المحللين الأمنيين (Security Analyst Summit) المقامة بجزيرة بالي الإندونيسية، أن الاستجابة الأمنية للوكلاء يجب أن تنطلق من مبدأ كبح الثقة المطلقة. وشبه لوزكين الوكيل التقني بالمتعاقد الذي يحمل قدرات تنفيذية داخل البنية التحتية، مشدداً على ضرورة تقييد صلاحياته بشكل صارم، وإخضاعه للرقابة الدائمة، وفصل هويته الرقمية بالكامل عن هويات المستخدمين البشريين داخل المنظومة.

وحذر الخبير الأمني من أن تحول الوكيل الذكي إلى تهديد مباشر يرتبط بصورة وثيقة بالنطاق التشغيلي ونوعية البيانات والإجراءات المتاحة له. وأوضح أنه كلما اتسعت النطاقات الصلاحيات الممنوحة للوكيل، تضاعفت الآثار الناجمة عن أي قرار خاطئ أو سلوك غير متوقع؛ فعندما يمتلك النظام قدرة حذف الملفات أو تعديل البيانات المباشرة، فإن الخلل يتجاوز مجرد تقديم إجابة غير دقيقة ليتحول فجأة إلى حادث أمني أو تعطيل تشغيلي شامل للمؤسسة.

واستشهد لوزكين باختبارات وحوادث سابقة لوكلاء متخصصين، من بينها التداعيات التي ظهرت في حادثة منصة «Hugging Face»، باعتبارها نماذج بارزة للقدرات الناتجة عن تشغيل وكلاء يستندون إلى نماذج غير مقيدة. ولفت إلى وجود فارق بين هذه الحالات والنماذج المتاحة للجمهور والتي تتضمن في الغالب كوابح وإرشادات أمنية تهدف إلى منع السلوكيات الخطرة، وإن كانت تلك القيود المدمجة لا تقضي على التهديدات بشكل كامل.

واختتم لوزكين بالتحذير من الاعتماد الحصري على الضوابط الداخلية للنماذج اللغوية، نظراً لطبيعتها الاحتمالية التي تجعل من الصعب ضمان سير كل خطوة تنفيذية كما حُدد لها في البداية. وشدد على أن الحماية الحقيقية للمؤسسات تستوجب بناء بيئة أمنية محيطة بالذكاء الاصطناعي وتطبيق بروتوكولات حوكمة صارمة، تمنع الوكيل من استغلال كافة الصلاحيات التي قد تتيحها له البنية التقنية من الناحية النظرية.

---

مشاركة عبر:

---