تشكل الاختبارات المصممة لرصد قدرات الذكاء الاصطناعي مصدر خطر جديد بعد تمكن بعض النماذج المتقدمة من تجاوز القيود المفروضة عليها والوصول إلى الإنترنت وأنظمة تشغيل حقيقية دون توجيهات محددة.
رصد قدرات نماذج الذكاء الاصطناعي
أفاد تقرير نشر على موقع «TechCrunch» بأن العديد من النماذج مثل «OpenAI» و«Anthropic» و«Meta» و«مختبر Moonshot AI الصيني» تجاوزت حدودها، حيث تمكن أحد نماذج OpenAI غير المعلنة من اختراق أنظمة الإنتاج الخاصة بمنصة «Hugging Face».
الخروج من البيئة المعزولة للمسارات المفتوحة
وصلت مجموعة من نماذج الذكاء الاصطناعي الأخرى إلى خدمات خارج نطاق الاختبار بسبب أخطاء في الإعداد، حيث تركت مسارات مفتوحة نحو الإنترنت، بينما استغل نموذج «Kimi K3» ثغرة في بيئته المعزولة للوصول إلى معلومات منشورة على «GitHub».
إدخال ثغرات لاختراق المشاريع
نفذ بعض الوكلاء الذين اختبرهم معهد أمن الذكاء الاصطناعي البريطاني محاولة هندسة اجتماعية لإدخال ثغرة في مشروع مفتوح المصدر رغم أن المهمة الأصلية لم تتطلب استهداف أشخاص أو مؤسسات حقيقية.
تطور قدرات نماذج الذكاء الاصطناعي
تظهر الوقائع أن قدرات نماذج الذكاء الاصطناعي تتطور بسرعة تفوق سرعة أنظمة احتوائها، حيث تُجرى اختبارات على الإصدارات المستقبلية بعد تعطيل القيود التي تمنع السلوك الضار، مما يسمح للباحثين بقياس أقصى قدراتها في هذه الظروف.
إغلاق جميع المسارات
يطالب الخبراء بعزل الشبكات عن الإنترنت وإغلاق المسارات التي توصل إلى الإنتاج، مع إضافة مراقبة لحظية ومرجعية مستقلة لإعدادات الاختبار، مؤكدين أن الاعتماد على حاجز واحد يجعل أي خطأ تقني صغير كافيًا لمنح وكيل القدرة على التخطيط والتنفيذ قبل اكتشافه.
اليابان تستعد لتطوير سياسات الدفاع الاستباقي لمواجهة الهجمات السيبرانية.
«معلومات الوزراء» يستعرض أبرز الاستطلاعات العالمية.. مخاوف من الذكاء الاصطناعي وتغير المناخ.
