وضع أمني أضيق داخل ChatGPT

بدأت OpenAI طرح Lockdown Mode لحسابات شخصية مؤهلة وبعض خطط ChatGPT Business ذاتية الخدمة، ليمنح المستخدمين إعدادا اختياريا يقلل الطرق التي يمكن أن يتصل بها ChatGPT بالويب أو بالخدمات الخارجية. ويستهدف الإعداد المستخدمين والمؤسسات التي تتعامل مع معلومات حساسة، حيث قد تكون مخاطر تسرب البيانات أهم من سهولة الاستخدام.

يتاح الإعداد للمستخدمين المسجلين في حسابات Free وGo وPlus وPro، إضافة إلى خطط ChatGPT Business ذاتية الخدمة. والغرض الأساسي ليس منع ظهور محاولات prompt injection، بل تقليل المسارات الخارجية التي قد تسمح بخروج بيانات حساسة من الجلسة.

قيود على الأدوات التي قد تنقل البيانات للخارج

يعتمد Lockdown Mode على العزل والضوابط القائمة عبر الحد من طلبات الشبكة الصادرة. وعمليا، يقيد التصفح الحي للويب إلى محتوى مخزن، ويزيل دعم الصور في الردود العادية أو عند جلبها من الويب، ويمنع وصول الكود المولد في Canvas إلى الشبكة، كما يمنع تنزيل الملفات في تحليلات البيانات.

هذه القيود مهمة لأن خطر prompt injection يعتمد غالبا على إقناع النموذج بإرسال معلومات إلى وجهة يتحكم بها المهاجم. ومن خلال إزالة أو تضييق الأدوات التي تصل إلى أنظمة خارجية، تضحي OpenAI بجزء من فائدة المنتج مقابل تقليل سطح تسرب البيانات.

الأمن يتحول إلى خيار تشغيل واضح

تبرز الميزة انتقال أمن الذكاء الاصطناعي من الاعتماد على الفلترة الخلفية فقط إلى أوضاع تشغيل يراها المستخدم. وتقول OpenAI إن الإعداد غير مخصص للجميع، ما يجعل المفاضلة واضحة: احتواء أقوى يعني مرونة أقل في التصفح والصور والكود والملفات.

وهذا مهم للمؤسسات لأن كثيرا من الموظفين يستخدمون أدوات الذكاء الاصطناعي قرب مستندات سرية أو سياق داخلي أو بيانات عملاء. ويوفر نمط الإغلاق خيارا أوضح لفرق الأمن عندما تكون الأولوية للاحتواء بدلا من الوصول إلى كل المزايا.

ما يجب مراقبته لاحقا

الإشارة التالية هي ما إذا كانت أوضاع مشابهة ستصبح معيارا في المساعدين المعتمدين على الذكاء الاصطناعي، خصوصا تلك المتصلة بالمتصفحات وأدوات البرمجة وحزم الإنتاجية ومخازن بيانات المؤسسات. والاختبار العملي هو قدرة المستخدمين على فهم متى ينبغي تفعيل الضوابط الأشد قبل بدء أعمال حساسة.

وبالنسبة إلى OpenAI، تظهر الميزة أيضا أن prompt injection ما زال فئة صعبة من المخاطر في النماذج اللغوية الكبيرة. لا يزيل Lockdown Mode هذه الفئة من الهجمات، لكنه يضيق آثارها عبر تقليل القنوات الصادرة التي قد يحاول المهاجم استغلالها.