"تقنياتنا ليست متوافقة مع القيم البشرية".. ماذا حدث خلف أبواب "أنثروبيك"؟

مقتطف إضافي من الخلاصة المتاحة عبر المصدر

أقرت شركة "أنثروبيك" الأمريكية لتقنيات الذكاء الاصطناعي والمسؤولة عن أداة الدردشة "كلود" أن حوادث هروب النماذج من بيئتها الاختبارية تعكس فشلا في الأمن التشغيلي لبيئات الاختبار الخاصة بها، مؤكدة أنها شددت إجراءات الاختبارات الخاصة بها وفق بيان الشركة.

وأوضحت "أنثروبيك" أنها قامت بتجميد ما يتجاوز 10% من بيئات التعليم المعزز الاختبارية في أبريل/نيسان الماضي عقب اكتشافها خللا في آليات اختبار النماذج قد يجعلها قادرة على إخفاء تفكيرها والخطوات التي اتخذتها للوصول إلى النتيجة النهائية، واستمر هذا التجميد نحو شهر.

ودفع هذا الشركة لوصف تقنياتها بأنها غير متوافقة تماما مع القيم والأهداف البشرية وفق تقرير صحيفة "غارديان" عن البيان، مشيرة إلى أنها تعمدت اختبار النماذج دون توفير ضمانات للأمن السيبراني، وهو ما مكنها من الوصول إلى الإنترنت المفتوح.

وكانت الشركة في وقت سابق أقرت أن نماذجها اخترقت ثلاث مؤسسات في ثلاثة حوادث مختلفة، ولم تستطع الشركة اكتشاف هذا الاختراق إلا في يوليو/تموز الماضي، أي بعد حدوثه بنحو ثلاثة أشهر.

وتابعت الشركة حديثها مبررة ما حدث بأنها كانت تعتمد على طبقة واحدة من الدفاعات السيبرانية، بينما كانت تحتاج إلى أكثر من طبقة لمنع مثل هذه الحوادث.

كما عزت ذلك إلى أن النماذج فسرت قدرتها على الوصول إلى الإنترنت بأنها ما تزال ضمن البيئة الاختبارية وليست خارجها، وأضافت أن النماذج "كانت مستعدة لاتخاذ إجراءات ضارة في سبيل إنجاز المهمة الضيقة المطلوبة منها".

ولمنع تكرار هذه الحوادث، أوضحت "أنثروبيك" أنها تنوي وضع المزيد من القيود على بيئاتها الاختبارية، ونقل اختبارات الأمن السيبراني إلى بيئات معزولة بشكل أفضل، وذلك إلى جانب تكليف 150 مهندسا من فرق المنتجات للعمل على مهام الأمن السيبراني والموثوقية والخصوصية المتعلقة بالنماذج حسب تقرير موقع "ديجيتال تريندز" التقني الأمريكي.

ومن جانبه، قال أستاذ الأمن السيبراني بجامعة ساري آلان وودارد في حديثه مع صحيفة "غارديان": "إن أنثروبيك أقرت أن مصنعها يعمل بوتيرة تفوق آليات ضبط الجودة لديها".

كما جددت "أنثروبيك" في بيانها الدعوة …