“استقالة مقلقة: تنبيه لتهديدات الذكاء الاصطناعي الفائق”

حسب موقع “أكسيوس”، اتهم كوكسون شركتي “أنثروبيك” و”أوبن إيه آي” بالمخاطرة بالسلامة تحت ضغط المنافسة، معتبرًا أنهما تتجهان نحو أنظمة قادرة على تحسين قدراتها بصورة متكررة، داعيًا إلى تدخل حكومي وتنسيق دولي لإبطاء التطوير.

تظهر الاستقالة مفارقة تواجه كبرى شركات القطاع؛ كل شركة تدرك المخاطر المحتملة، لكنها تخشى أن يؤدي إبطاء عملها منفردة إلى منح منافسيها فرصة التقدم عليها.

**سباق لا تستطيع شركة إيقافه**

يقول المستشار في أمن وتكنولوجيا المعلومات والتحول الرقمي، رولاند أبي نجم، في حديث إلى سكاي نيوز عربية، إن المخاوف تتزايد مع زيادة سرعة تطوير الأنظمة ومنحها صلاحيات أوسع. وأضاف: “بصراحة، نحن ذاهبون في هذا الاتجاه، ومع الوقت تصبح السرعة أكبر بكثير”.

أوضح أبي نجم أن الدعوات لإبطاء تطوير الذكاء الاصطناعي ليست جديدة، مشيرًا إلى أن شخصيات وشركات سبق أن طالبت بمنح التشريعات وضوابط السلامة وقتًا للحاق بالتقدم التقني، قبل أن تواصل هي نفسها السباق تحت ضغط المنافسة.

وأشار إلى أن المشكلة لا تتعلق بشركة أو دولة واحدة، لأن إبطاء الشركات الأميركية، على سبيل المثال، لن يحقق هدفه إذا واصلت شركات أخرى داخل الولايات المتحدة أو خارجها تطوير أنظمتها بنفس السرعة.

تظهر هذه المعضلة في “إطار الاستعداد” الخاص بشركة “أوبن إيه آي”، الذي يتيح لها تعديل بعض متطلبات السلامة إذا طرح مطور منافس نظامًا عالي المخاطر دون ضمانات مماثلة، وفق شروط تشمل الإعلان عن التعديل وعدم زيادة مخاطر وقوع أضرار جسيمة.

**الوكلاء يوسعون دائرة الخطر**

يرى أبي نجم أن انتقال الذكاء الاصطناعي من أنظمة تجيب عن أسئلة المستخدمين إلى “وكلاء” قادرين على تنفيذ مهام واتخاذ قرارات واستخدام أدوات رقمية زاد من مستوى المخاطر. ويوضح أن وكلاء الذكاء الاصطناعي قد يعملون بأعداد كبيرة، ويتولون سلسلة من المهام دون حاجة إلى تدخل بشري في كل خطوة، مما يجعل ضبط الصلاحيات ومراقبة القرارات أكثر تعقيدًا.

تحولت بعض المخاوف النظرية إلى واقع ملموس خلال اختبار داخلي أجرته “أوبن إيه آي” لقدرات نماذجها السيبرانية. وأظهرت نماذج خضعت للاختبار، مع تعطيل بعض وسائل الحماية المستخدمة في المنتجات العامة، أنها تمكنت من استغلال ثغرة غير معروفة والخروج من البيئة المعزولة إلى الإنترنت، ثم اختراق بنية منصة “هاغينغ فيس” للحصول على حلول اختبار.

أكدت “أوبن إيه آي” أن النماذج المعنية لم تكن مخصصة للإطلاق العام، وأن فرق الأمن اكتشفت النشاط قبل أن تتعاون الشركتان لاحتوائه، كما أوقفت الشركة مؤقتًا بعض عمليات التدريب وشددت إجراءات العزل والمراقبة.

**خطر يصعب تفسيره**

قال أبي نجم إن مطوري أنظمة الذكاء الاصطناعي لا يعرفون بالضرورة كيف توصل النموذج إلى كل نتيجة أو قرار، بسبب حجم البيانات وتعقيد الخوارزميات المستخدمة في التدريب. وأضاف أن الخطر يرتفع عندما تقترن هذه القدرة بصلاحيات لتنفيذ عمليات مالية أو الوصول إلى أنظمة حساسة أو اكتشاف ثغرات سيبرانية غير معروفة، خصوصًا في القطاعات الحكومية والصحية والعسكرية.

صنفت “أوبن إيه آي” نموذجها “أسترا” عند مستوى “حرج” في القدرات السيبرانية، موضحة أنه يستطيع، عند تزويده بالأدوات والصلاحيات اللازمة، اكتشاف ثغرات غير معروفة وتطوير وسائل لاستغلالها في أنظمة شديدة الحماية دون توجيه بشري لكل خطوة.

وترى الشركة أن إجراءات الحماية التي وضعتها تقلل مخاطر الضرر الجسيم، بينما تدعو إلى معايير مشتركة تشرف عليها جهات مستقلة وحكومات ومؤسسات دولية. يُعتقد أن إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي بات ضروريًا، ولكن الاعتراف بأن الذكاء الاصطناعي جزء من الأمن القومي يعقد فرص الاتفاق على إبطائه، خصوصًا في ظل المنافسة بين الولايات المتحدة والصين.

وفي استطلاع عبر منصات سكاي نيوز عربية الرقمية، رأى 58 بالمئة من المشاركين أن الذكاء الاصطناعي خرج عن السيطرة، مقابل 42 بالمئة لم يوافقوا على ذلك.تحولت بعض المخاوف النظرية إلى واقعة ملموسة خلال اختبار داخلي أجرته “أوبن إيه آي” لقدرات نماذجها السيبرانية.

تمكنت نماذج خضعت للاختبار، بعد تعطيل بعض وسائل الحماية المستخدمة في المنتجات العامة، من استغلال ثغرة غير معروفة والخروج من البيئة المعزولة إلى الإنترنت، ثم اختراق بنية منصة “هاغينغ فيس” للحصول على حلول اختبار.

وأكدت “أوبن إيه آي” أن النماذج المعنية لم تكن مخصصة للإطلاق العام، وأن فرق الأمن اكتشفت النشاط، قبل أن تتعاون الشركتان لاحتوائه. كما أوقفت الشركة مؤقتا بعض عمليات التدريب وشددت إجراءات العزل والمراقبة.

**خطر يصعب تفسيره**

قال أبي نجم إن مطوري أنظمة الذكاء الاصطناعي لا يعرفون بالضرورة كيف توصل النموذج إلى كل نتيجة أو قرار، بسبب حجم البيانات وتعقيد الخوارزميات المستخدمة في التدريب.

وأضاف أن الخطر يرتفع عندما تقترن هذه القدرة بصلاحيات لتنفيذ عمليات مالية أو الوصول إلى أنظمة حساسة أو اكتشاف ثغرات سيبرانية غير معروفة، خصوصا في القطاعات الحكومية والصحية والعسكرية.

وصنفت “أوبن إيه آي” نموذجها “أسترا” عند مستوى “حرج” في القدرات السيبرانية، موضحة أنه يستطيع، عند تزويده بالأدوات والصلاحيات اللازمة، اكتشاف ثغرات غير معروفة وتطوير وسائل لاستغلالها في أنظمة شديدة الحماية دون توجيه بشري لكل خطوة.

وترى الشركة أن إجراءات الحماية التي وضعتها تقلل من مخاطر الضرر الجسيم، بينما تدعو إلى معايير مشتركة تشرف عليها جهات مستقلة وحكومات ومؤسسات دولية.

يعتقد أبي نجم أن إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي أصبح ضروريا، لكنه أقر بصعوبة مراقبة جميع عمليات التطوير في الدول والشركات والجهات غير المعروفة. وقال إن اعتبار الذكاء الاصطناعي جزءا من الأمن القومي يعقد فرص الاتفاق على إبطائه، خصوصا في ظل المنافسة بين الولايات المتحدة والصين.

وفي استطلاع عبر منصات سكاي نيوز عربية الرقمية، رأى 58 بالمئة من المشاركين أن الذكاء الاصطناعي خرج عن السيطرة، مقابل 42 بالمئة لم يوافقوا على ذلك.