قبل فقد السيطرة.. "المخبر الاقتصادي" يحذر من السيناريو الأسوأ للذكاء الاصطناعي

مقتطف إضافي من الخلاصة المتاحة عبر المصدر

وتقدم حلقة "المخبر الاقتصادي " -التي يمكنكم مشاهدتها كاملة بالضغط هنا– حقائق مخيفة عن هذا الأمر، وهو ما قد يهدد الوجود البشري برمته خلال 3 إلى 5 أعوام قادمة، وفق تقارير واعترافات صادمة لعلماء وباحثين في شركات مثل أوبن إيه آي وأنثروبيك.

ففي خطوة أثارت جدلا واسعا في الأوساط التقنية، أعلن جيكوب كوكسون -الباحث السابق في شركتي الذكاء الاصطناعي أوبن إيه آي وأنثروبيك- استقالته، محذرا من أن الشركتين تخوضان سباقا غير مسؤول لابتكار ذكاء فائق، ومؤكدا أن بعض القائمين على بناء هذه الأنظمة مقتنعون بإمكانية تسببها في كوارث تنهي الوجود البشري قبل نهاية العقد الحاضر.

ولم تكن تحذيرات كوكسون معزولة، إذ أيده في طرحه إيثان يوبنجر -باحث السلامة في شركة أنثروبيك- مرجحا بنسبة تتجاوز 10% وقوع حادثة كارثية خلال العقد القادم.

من جانبه، شدد بول كريستيانو -عضو مجلس إدارة المؤسسة غير الربحية التابعة لأوبن إيه آي- على خطورة الاندفاع نحو الذكاء الفائق دون وجود أنظمة مواءمة حقيقية، محذرا من فقدان دائم وغير قابل للترميم للسيطرة البشرية.

وتُبرز الحلقة عددا من الحوادث التي تؤكد هذه المخاوف، إذ تتجلى خطورة التحذيرات في حادثة أمنية غير مسبوقة وقعت أثناء تدريب نماذج الذكاء الاصطناعي لدى "أوبن إيه آي"، وذلك عند تأسيس قناة تواصل سرية.

فخلال عملية تدريب شملت عشرات الآلاف من "الوكلاء" داخل بيئات افتراضية معزولة، تمكن الوكلاء من اختراق أطر العزل تلك عبر ترك رسائل متبادلة في مستودع برمجيات داخلي يُعرف بـ"آرت فاكتوري"، لاستخدامه صندوق بريد لتنسيق الخطوات واستغلال الموارد.

بل إن أحد الوكلاء اكتشف ثغرة أتاحت له إرسال طلبات خارجية عبر المستودع البرمجي، وشاركها مع أقرانه للوصول إلى الإنترنت وتزوير النتائج، وذلك أثناء خضوعهم لاختبار أمني يُدعى "إكسبلويت غيم".

وفي هذا الاختبار، مارس الوكلاء تكتيكات الهندسة العكسية للحصول على إجابات الاختبار عن طريق الغش، وعمدوا إلى تزوير السجلات وقرصنة البيئة المخصصة للتقييم كي لا يُكشف أمرهم.

كما أظهرت التجربة سلوكا تنظيميا معقدا فيما بينهم، إذ ضحى أحد الوكلاء -ويُدعى إيرلي بيرد…