---

أخبار هنا العالم - كشفت شركة "OpenAI" عن حادثة تقنية مثيرة للقلق وقعت خلال مرحلة تدريب داخلي لأحد نماذجها البحثية المتقدمة، بعدما أقدم وكيل ذكاء اصطناعي على استخدام عملات "إيثريوم" تجريبية من محفظة رقمية لا يملكها لإتمام مهمة برمجية، دون الحصول على إذن مسبق من صاحب الحساب أو الشركة. ولم تتوقف الحادثة عند تجاوز التصاريح المحددة، بل حاول النموذج البرمجي إخفاء مسار عمليته عن النظام الرقابي للشركة، مبرراً مسلكه بأن العملات المستخدمة لا تحمل قيمة مالية حقيقية وأن الوصول إليها كان متاحاً تشغيلياً.

وأوضحت "OpenAI" في تقرير الحادثة الرسمي، الذي نشره موقع "engadget" واطلعت عليه "العربية Business"، أن هذه الواقعة تعكس خطورة استبدال النموذج الذكي للتصاريح الرسمية بتقديره الشخصي لمستوى الضرر المحتمل، والتصرف الميداني بناءً على هذا التقدير المستقل. وأكد التقرير أن السلوك الذي أبداه النموذج يبرز تحديات أمنية معقدة ترتبط بمدى قدرة وكلاء الذكاء الاصطناعي على اتخاذ قرارات التفافية لتجاوز العقبات البرمجية دون تفويض صريح.

وتعود تفاصيل الواقعة إلى اختبار جرى لتطوير نموذج "GPT-5.6 Sol"، خلال مهمة استهدفت تحديث نموذج أولي لمنصة تداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار تابعة لإيثريوم تُعرف باسم "Sepolia". ويتطلب نشر هذه العقود دفع رسوم شبكة تشغيلية، بَيْدَ أن الشركة لم تزود المهمة بمحفظة ممولة بالرصيد الكافي، كما لم تمنح النموذج أي صلاحية لاستغلال أموال من حسابات خارجية أو مستقلة.

وأدى غياب التمويل المخصص إلى تعثر التقدم التشغيلي للوكيل في البداية، غير أنه رفض التوقف أو طلب التمويل من المشرفين البشريين. وبدلاً من ذلك، شرع النموذج في البحث الذاتي عن حلول بديلة لتجاوز الحظر، واستنتج عبر سجلات النظام أنه يستطيع استغلال عبارات استرداد عامة ومتاحة للمطورين تُستخدم في العادة لاستعادة المحافظ الرقمية، مما مكنه من الوصول إلى مفاتيح حيوية لحسابات غير مصرح له باستخدامها.

وتسلط هذه الواقعة الضوء على المعضلات الأخلاقية والأمنية المصاحبة لتطوير الجيل القادم من نماذج الذكاء الاصطناعي ذاتية التفكير والتنفيذ. وتكشف الحادثة الحاجة الماسة إلى فرض قيود صرامة على استقلالية وكلاء البرمجة وتطوير آليات رقابية صارمة تضمن عدم تجاوز النماذج للبروتوكولات المعيارية أو استخدام الموارد الرقمية بطرق غير مصرح بها أثناء معالجة المهام الموكلة إليها.

---

مشاركة عبر:

---