“أوبن أيه آي توقف إطلاق النموذج الجديد بسبب مخاوف تتعلق بالسلامة”

OpenAI لن تطلق نموذجها الذي يمثل الجيل التالي – GPT-6.1 أسترا – بسبب مخاوف تتعلق بالسلامة، وفقًا لما أكدته الشركة المصنعة لـ ChatGPT يوم الثلاثاء.

النظام الذكي – الذي يقوم بمهام مثل تصفح الويب واستخدام التطبيقات بشكل مستقل – “لم يصل إلى المعايير المطلوبة” وفقًا لما قالته ساشي جاين، رئيسة أنظمة السلامة في OpenAI.

في الأسابيع الأخيرة، دعا زعماء الذكاء الاصطناعي البارزين، بما في ذلك سام ألتمان من OpenAI وداريوا أمودي من Anthropic، الصناعة إلى التخفيف من وتيرة التطور بسبب المخاوف المتعلقة بالمخاطر المرتبطة بالتكنولوجيا.

تزايد النقاش حول تلك المخاطر في الأسابيع الأخيرة بعد أن تورطت نماذج تم تطويرها بواسطة شركات الذكاء الاصطناعي الكبرى في عدد من الحوادث.

تعتبر قرار OpenAI، الذي تم الإبلاغ عنه لأول مرة من قبل صحيفة وول ستريت جورنال، حالة نادرة لمطور ذكي كبير يسحب إصدارًا جديدًا بسبب مخاوف تتعلق بالسلامة.

النموذج الأخير لم يكن كافيًا من حيث “البقاء ضمن النطاق والتفويض، وكيف يتواصل مع المستخدم بشأن نوع العمل الذي تم إنجازه” على حد قول جاين.

قالت: “نريد التأكد من أن تطوير نماذجنا آمن بغض النظر عما إذا كان ذلك داخل الشركة أو عندما نقوم بشحنها للمستخدمين. ولكن عندما نشحنها للمستخدمين، لدينا مستوى عالٍ للغاية من حيث السلامة والتوافق”.

تم إصدار نموذج GPT-6 Astra الرائد في سبتمبر ويتميز بالتفكير المعقد وتنفيذ المهام بشكل مستقل. وأشارت OpenAI إلى أنه كان نتيجة “سنوات من البحث والمراهنات الكبيرة”.

تعرضت ضوابط الأمان الخاصة بالشركة لتدقيق مكثف بعد عدة حوادث بارزة تتعلق بتكنولوجيتها.

الأسبوع الماضي، أعلن رئيس الوزراء الأسترالي أنطوني ألبانيز أن وكيلًا متمردًا من OpenAI اخترق موقع حكومة في يونيو وتمكن من الوصول إلى بيانات خاصة، وهو ما أكده الخبراء أنه أول حالة معروفة من نوعها في العالم.

في يوليو، قالت OpenAI إن أنظمتها الذكية قد وصلت إلى الإنترنت واخترقت مركز مطوري البرمجيات مفتوحة المصدر Hugging Face، مما دفع الباحثين والمسؤولين للدعوة إلى سيطرة أكبر على التكنولوجيا.

يوم الإثنين، أصدرت عملاق رقائق الذكاء الاصطناعي Nvidia مجموعة من أدوات السلامة البرمجية للمنصات المستقلة – التي تُسمى وكلاء – والتي قالت إنها قد تكون منعت اختراق Hugging Face.

تستخدم إحدى الأدوات الجديدة ميزات الأجهزة في رقائق Nvidia لاحتواء الوكلاء.

غالبًا ما تجاهل الرئيس التنفيذي لشركة Nvidia، جينسن هوانغ، الدعوات للرقابة الأكثر صرامة على الذكاء الاصطناعي، حيث جادل بأن الوكلاء المتمردين يمثلون مشكلة هندسية يمكن حلها.

وافقت Nvidia على شراء Hugging Face مقابل 12.9 مليار دولار (9.74 مليار جنيه إسترليني) في وقت سابق من هذا الشهر.