OpenAI تدعم Appia Foundation لمعايير الذكاء الاصطناعي المتقدم

OpenAI تنقل عمل المعايير إلى Appia

ساعدت OpenAI في إنشاء Appia Foundation، وهي مبادرة مستضافة لدى Linux Foundation تهدف إلى تحويل أطر حوكمة الذكاء الاصطناعي المتقدم إلى معايير تقييم تقنية يمكن استخدامها عبر الشركات والحكومات وفرق التقييم المستقلة.

ينقل الإعلان حجة OpenAI من الالتزامات العامة بالسلامة إلى طبقة الأدلة المطلوبة للإشراف على الذكاء الاصطناعي المتقدم. تقول OpenAI إن النماذج الأكثر قدرة يمكن أن تعزز الدفاع السيبراني والاكتشاف العلمي، لكنها قد تخلق أيضاً مخاطر سلامة وأمن عندما تكون القدرات أو الضمانات أو قنوات معلومات الحكومات غير كافية. وتهدف Appia إلى بناء مواصفات مفتوحة وقابلة للتجزئة لفحص التوافق مع المعايير عبر سلسلة قيمة الذكاء الاصطناعي.

يتمثل دور المؤسسة في جعل الأدلة أكثر قابلية لإعادة الاستخدام عندما تطور جهات مختلفة النماذج والبنية التحتية والتطبيقات. وتقدم OpenAI ذلك كطريقة تتيح للمؤسسات الوطنية والدولية الاعتراف بالعمل التقني لبعضها بدلاً من الاعتماد فقط على بيانات سياسية منفصلة.

المقيمون يحتاجون إلى أدلة قابلة للمقارنة

ربطت OpenAI مبادرة Appia بمخططها للحوكمة الديمقراطية للذكاء الاصطناعي المتقدم. يدعو ذلك المخطط إلى إطار أمريكي دائم، وتقوية Center for AI Standards and Innovation، واستراتيجية مرونة أوسع عبر الحكومة. كما يقول إن الحكومات تحتاج إلى أطر سلامة متوافقة، وقنوات موثوقة لتبادل نتائج المخاطر، واستجابات منسقة للحوادث لأن مخاطر النماذج المتقدمة عابرة للحدود.

أشارت الشركة أيضاً إلى دليلها للتقييمات الموثوقة من أطراف ثالثة. تقول OpenAI إن تقييمات النماذج المتقدمة يجب أن تكشف النظام المختبر، ووصوله إلى الأدوات وبيئة الاختبار، وطرق استخراج القدرات، والموارد المتاحة، والفحوص المستخدمة للتحقق من النتائج. هذه التفاصيل مهمة للمدققين لأن سلوك النموذج قد يتغير مع الأدوات أو التعليمات أو بيئات الاختبار أو شروط الفحص.

قالت OpenAI إن شراكات الاختبار مع US CAISI وUK AISI بشأن تقييم قدرات النماذج المتقدمة وضمانات سوء الاستخدام البيولوجي أدت إلى تحسينات ملموسة في أنظمتها. ولم تصف الشركة تلك التحسينات في هذا الإعلان، ما يترك القراء من دون قائمة بتغييرات النماذج أو نتائج التقييم أو حدود الاستجابة للحوادث.

الحوكمة تنتقل إلى سلسلة التوريد

تتمثل المهمة الأصعب لـ Appia في قابلية التشغيل البيني. تقول OpenAI إن الإشراف على الذكاء الاصطناعي المتقدم يحتاج إلى ممارسات تعمل عبر المؤسسات والولايات القضائية وسلسلة التوريد، لا داخل مطور نموذج واحد فقط. ويشمل ذلك تقييم المخاطر، وتقارير النماذج، وضوابط الأمن، والاستجابة للحوادث، وإدخال خبراء خارجيين، وهي عناصر تقول OpenAI إنها جزء من Frontier Governance Framework لديها.

بالنسبة إلى الشركات التي تنشر أنظمة متقدمة، تكمن المسألة التشغيلية في ما إذا كان تقييم طرف ثالث يمكن أن ينتقل مع النموذج أو البنية التحتية أو التطبيق عندما ينتقل بين مزودين وولايات قضائية. وبالنسبة إلى الحكومات، تكمن المسألة في ما إذا كانت CAISI وAISI والمؤسسات المشابهة تستطيع الاعتراف بالأدلة الموثوقة بسرعة كافية للعمل معاً أثناء حدث سلامة أو أمن.

يمنح إعلان OpenAI مؤسسة Appia مقراً مؤسسياً ومهمة للمعايير، لكنه لا يقدم نظام امتثال نهائياً. وتبقى القطع غير المحسومة هي المواصفات النهائية، ومن سيصادق عليها، وكيف ستتعامل الحكومات مع الأدلة المدعومة من Appia عندما تكون النماذج والبنية التحتية والتطبيقات تحت سيطرة مؤسسات مختلفة.