Anthropic تنقل ضوابط السلامة إلى داخل الوصول للنموذج

حوّل إطلاق Claude Fable 5 من Anthropic الوصول إلى النماذج إلى قضية تنافسية لمطوري AI في الصين. والنموذج هو النسخة العامة من Mythos، الذي أُعلن عنه أولا في April ثم حُجب عن الاستخدام العام بسبب مخاوف مرتبطة بقدرته على اكتشاف واستغلال ثغرات cybersecurity.

قدمت الشركة Fable 5 كنظام أعلى أداء للمهام المعقدة مثل software engineering والبحث العلمي، لكنها ربطت هذا الإطلاق بضوابط سلامة أكثر صرامة. وتكمن أهمية هذه الضوابط في أنها لا تعمل فقط على مستوى الحساب أو الجغرافيا، بل داخل مسار عمل النموذج نفسه، حيث يمكن تحويل طلبات محددة بعيدا عن Fable 5.

المصنفات تستهدف أبحاث النماذج المتقدمة وdistillation

تتمثل الآلية الأساسية في مجموعة من classifiers ترصد الطلبات المرتبطة بـ cybersecurity وbiology وchemistry وتطوير frontier large language models. وتشمل الضوابط نفسها محاولات distillation، وهي ممارسة تُدرَّب فيها أنظمة AI أصغر باستخدام مخرجات نماذج أكبر وأكثر تقدما.

عند رصد طلب مشمول بالقيود، قالت Anthropic إن Fable 5 يمكنه خفض المهمة إلى Claude Opus 4.8. وأقرت الشركة لاحقا بأن المستخدمين يجب أن يحصلوا على رؤية أوضح لهذه الضوابط، قائلة: “We’re sorry for not getting the balance right.”

بالنسبة إلى فرق AI الصينية، تتركز المسألة الأشد في distillation. فقد اتهمت Anthropic سابقا شركات صينية باستخدام نماذج Claude لتسريع تطوير أنظمتها. وإذا كان Fable 5 يمنع هذا المسار أو يخفضه، فإن الفرق الأصغر التي تعتمد على طرق لحاق منخفضة التكلفة ستواجه حاجزا أعلى من المختبرات الأكبر ذات البنية التحتية الأعمق.

مختبرات AI الصينية تواجه قيدا في طبقة البرمجيات

تكمن أهمية التحول في أن منافسة AI لا تتشكل فقط عبر الرقائق أو قيود التصدير أو قدرة السحابة. يوضح Fable 5 كيف يمكن لمزودي النماذج المتقدمة وضع القيود مباشرة في طبقة البرمجيات من مكدس AI.

قد يحد هذا التصميم من الوصول الفوري إلى قدرات مفيدة في coding وتطوير النماذج ومسارات البحث العلمي. كما يخلق ضغطا جانبيا على مجالات بحثية ليست بحد ذاتها محاولات distillation. وتشير المادة المصدرية إلى الاستعلامات البيولوجية وأعمال drug design كمجالات قد يقل تعرضها لأحدث قدرات Fable 5 بسبب خفض الوصول.

لا تُظهر المادة أن شركات AI الصينية أكدت رسميا استخدام Claude في distillation. ولا تُظهر أيضا مدى قدرة المستخدمين على تجاوز الضوابط الجديدة بصورة ثابتة. وتمنع هذه الفجوات القصة من إثبات توقف تشغيلي فوري، لكنها تُظهر شكلا جديدا من الاحتكاك أمام المطورين الذين يحاولون استخدام النماذج الأمريكية المتقدمة كمسرّعات للتطوير.

نقطة المتابعة هي ما إذا كانت السلامة ستصبح حاجزا تنافسيا

نقطة المتابعة التالية هي كيفية موازنة Anthropic بين السلامة والشفافية وحماية التنافس بعد رد الفعل من الباحثين. وقالت الشركة إنها ستقلل العوائق غير الضرورية، مع إبقاء القيود المرتبطة بتطوير AI المتقدم قائمة.

بالنسبة إلى منظومة AI المحلية في الصين، يعمل الضغط في اتجاهين. فقد تبطئ ضوابط Fable 5 الأكثر صرامة الفرق التي تعتمد على نماذج متقدمة خارجية، خصوصا المجموعات الأصغر. وفي الوقت نفسه، قد تدفع القيود المطورين المحليين إلى بناء أنظمة أقوى للسلامة والحوكمة بدلا من المنافسة فقط على benchmarks وreasoning ability والسعر والسرعة.