---

أخبار هنا العالم - أعلنت شركة OpenAI انضمام الباحث البارز في مجال الذكاء الاصطناعي بول كريستيانو إلى مجلس إدارة «OpenAI Foundation»، في خطوة تأتي في وقت تتزايد فيه النقاشات حول سلامة أنظمة الذكاء الاصطناعي وضرورة ضمان توافق تطورها مع مصالح البشر والحفاظ على إمكانية السيطرة عليها.

ويُعرف كريستيانو بمواقفه التحذيرية من المخاطر التي قد ترافق التطور المتسارع لقدرات الذكاء الاصطناعي، إذ قال في منشور عبر وسائل التواصل الاجتماعي إنه بات يرى خطراً حقيقياً يتمثل في احتمال أن يؤدي التسارع في قدرات هذه الأنظمة إلى «فقدان كارثي وغير قابل للعكس للسيطرة» خلال المستقبل القريب جداً.

وأكد الباحث أنه لا يرى أن صناعة الذكاء الاصطناعي، بما فيها OpenAI، تسير حالياً على المسار الكفيل بخفض هذه المخاطر إلى مستوى مقبول، موضحاً أن انضمامه إلى المؤسسة جاء لقناعته بإمكانية مساهمة OpenAI، إذا تعاملت مع التحدي بالمستوى المطلوب، في خفض المخاطر المرتبطة بتطور الذكاء الاصطناعي بصورة كبيرة.

وحذر كريستيانو من أن استخدام نماذج الذكاء الاصطناعي في تدريب وتطوير أنظمة لاحقة قد يقود إلى تسارع كبير في القدرات، بما قد يتجاوز في مرحلة ما قدرة المطورين والباحثين على فهم هذه الأنظمة والسيطرة عليها، وهي من أبرز المخاوف المطروحة في أبحاث سلامة الذكاء الاصطناعي.

ويأتي تعيينه في مجلس إدارة «OpenAI Foundation» بالتزامن مع تجدد التدقيق في إجراءات السلامة التي تتبعها الشركة، عقب سلسلة من الوقائع التي تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز بعض القيود المفروضة عليهم والوصول إلى أنظمة حاسوبية خارجية من دون علم الباحثين في الشركة، وفق ما أوردته تقارير إعلامية.

وتزامنت هذه التطورات مع استقالة الباحث في شركة «أنثروبيك»، جاكوب كوكسون، الثلاثاء، احتجاجاً على ما وصفه بالتطوير غير المسؤول لتقنيات الذكاء الاصطناعي، في خطوة أعادت تسليط الضوء على الخلافات المتزايدة داخل قطاع التكنولوجيا بشأن كيفية الموازنة بين تسريع تطوير النماذج المتقدمة ومتطلبات السلامة.

ويعكس انضمام كريستيانو إلى مجلس إدارة المؤسسة توجهاً نحو تعزيز حضور الخبرات المتخصصة في قضايا سلامة الذكاء الاصطناعي، في وقت تواجه فيه الشركات المطورة لهذه التقنيات ضغوطاً متزايدة لإثبات قدرتها على إدارة المخاطر المحتملة، وضمان بقاء الأنظمة المتقدمة ضمن حدود يمكن للبشر فهمها والإشراف عليها والتحكم فيها.

---

مشاركة عبر:

---