“اختبار أمان: جيمني AI من جوجل يُخترق ثلاث شركات!”

أعلنت شركة جوجل أن نموذج الذكاء الاصطناعي “جمنيا” تمكن بشكل ذاتي من الاختراق في ثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، مما يُعتبر أول حالة معروفة يُنفذ فيها مثل هذا الفعل.

وأوضح مسؤول من جوجل لـ بي بي سي أن “جمنيا عثر على معلومات عامة على الإنترنت وتخمين بيانات الاعتماد للوصول إلى مواقع ويب اعتقد أنها جزء من الاختبار”، مشيرًا إلى أن “النموذج توقف في كل حالة”.

وقد تم إبلاغ الشركات المتضررة عن هذا الاختراق.

ويأتي ذلك بعد زيادة التدقيق العام بشأن وتيرة تطوير الذكاء الاصطناعي، حيث دعا بعض شركات التقنية إلى التباطؤ، raising concerns over its potential threat to humanity – رغم أن ليس جميع الشركات تتفق مع هذا الرأي.

وتم الإبلاغ عن هذه الاختراقات، التي تم الإبلاغ عنها لأول مرة من قبل “وول ستريت جورنال”، في مايو خلال اختبار أجرته شركة مستقلة تعمل على تقييمات الأمن السيبراني.

قالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، في تصريح لبي بي سي: “لقد تأكدنا من أن الكيانات الثلاثة كانت على علم، وعملنا مع شريكنا في التدريب على التغييرات التي أجروها الآن في عمليات الاختبار الخاصة بهم”.

وأضافت: “تُبرز هذه الأحداث أهمية تدريب نماذج الذكاء الاصطناعي القوية للعمل بمسؤولية”.

وقد أبلغت أنظمة ذكاء اصطناعي أخرى مؤخرًا عن حالات مشابهة من الاختراق.

في يوليو، تمكن “كلود” من شركة “أنتروبيك” من الهروب من بيئة الاختبار الخاصة به لاختراق ثلاث منظمات بمفرده بعد أيام فقط من إعلان “أوبن إيه آي” أن نماذجها قد نفذت هجمات سيبرانية ضد العديد من “الخدمات المتاحة علنًا”.

مع استمرار النقاش العام حول سلامة تطوير هذه التقنية، تتزايد المحادثات حول التنظيم.

من المتوقع أن يشارك كل من جينسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، في عشاء رسمي في البيت الأبيض مع الرئيس الصيني شي جين بينغ الجمعة المقبلة. وسيقوم ألتمان بعد ذلك بإحاطة مجلس الأمن التابع للأمم المتحدة الأسبوع المقبل.

وفي يوم الجمعة، قال هوانغ لشبكة سي بي إس نيوز، الشريك الأمريكي لبي بي سي: “يجب أن نتقدم بأقصى سرعة ممكنة في تطوير الذكاء الاصطناعي”.