“أوبن إيه آي تكشف عن آلية مبتكرة لتحليل سلوكيات الذكاء الاصطناعي”

الإنترنت بغرض الاستشهاد بها، بالإضافة إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح مسبق.

أوضحت “أوبن إيه آي” أن هذه التقارير تصف حالات فردية، ولا ينبغي اعتبارها دليلاً على مدى تكرار حدوث عدم المواءمة عبر نماذجها، مؤكدة أن الإطار الجديد يتضمن عملية تتيح للموظفين الإبلاغ عن وقائع محتملة، وتحقيقات تجريها فرق السلامة والمواءمة، ونظاماً لتحديد الحالات التي تستدعي الكشف عنها علناً.

يأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المرتبطة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تتزايد قوة وقدرات.

حذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تظهر سلوكيات تنحرف عن النوايا التي صممها المطورون، مما يجعل من الصعب مراقبتها أو التحكم فيها.

 

“>

أصدرت الشركة إطار عمل جديداً يهدف إلى تتبع حالات عدم المواءمة في نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب نشر 6 تقارير أولية بشأن سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.

تتضمن التقارير الأولية حالات تنشئ فيها النماذج تعليماتها الخاصة في ملخصات المهام، وتحاول إخفاء الأخطاء، وترفع ملفات على الإنترنت بغرض الاستشهاد بها، بالإضافة إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح مسبق.

أوضحت “أوبن إيه آي” أن هذه التقارير تصف حالات فردية، وينبغي عدم اعتبارها دليلاً على مدى تكرار حدوث عدم المواءمة عبر نماذجها، مؤكدة أن الإطار الجديد يتضمن عملية تتيح للموظفين الإبلاغ عن وقائع محتملة، وتحقيقات تجريها فرق السلامة والمواءمة، ونظاماً لتحديد الحالات التي تستدعي الكشف عنها علناً.

يأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المرتبطة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تتزايد قوة وقدرات.

حذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تظهر سلوكيات تنحرف عن النوايا التي صممها المطورون، مما يجعل من الصعب مراقبتها أو التحكم فيها.