OpenAI تبقي نموذج GPT-Red الهجومي خاصا بعد اختبارات prompt injection
أفاد The Next Web بأن OpenAI بنت GPT-Red، وهو نموذج داخلي للاختبار الهجومي الآلي لهجمات prompt injection، لكنها تبقي أداة الهجوم خاصة. وذكر التقرير نسب نجاح تجاوزت 90% ضد نسخة أقدم من GPT-5 وأقل من 23% ضد GPT-5.6، مع بقاء حالات يلتقطها المختبرون البشر.
أفاد The Next Web بأن OpenAI بنت GPT-Red، وهو نموذج داخلي للاختبار الهجومي الآلي صُمم لمهاجمة أنظمة AI أخرى، لكن الشركة لا تعتزم طرح أداة الهجوم للجمهور. ويستهدف النظام هجمات prompt injection، حيث يمكن لتعليمات مخفية في ملفات أو صفحات ويب أو رسائل أن تدفع وكيل AI إلى تنفيذ أفعال لا يريدها المشغل.
تصف OpenAI نموذج GPT-Red كنظام سلامة وليس كمنتج عام. وقال The Next Web إن النموذج يتعلم العثور على طرق لاختطاف أنظمة AI أو تعطيلها حتى يتمكن المطورون من إصلاح الثغرات قبل الإطلاق.
GPT-Red يستهدف هجمات prompt injection
يتدرب GPT-Red عبر self-play ضد نماذج دفاعية، بحسب The Next Web. يحصل نموذج الهجوم على مكافآت عندما ينجح الاستغلال، بينما تحصل نماذج الدفاع على مكافآت عند منع المحاولة.
قالت OpenAI إن التدريب استخدم بعض أكبر عمليات الحوسبة لديها في أعمال السلامة. ووصفت الشركة الحجم بأنه غير مسبوق لهذا الغرض، لكن التقرير لم يذكر تكلفة بالدولار أو عددا للعتاد المستخدم في التدريب.
وجد النموذج أيضا أسلوب prompt injection وصفه باحثو OpenAI بأنه fake chain of thought. وقال Chris Choquette-Choo لـMIT Technology Review إن الهجوم يزرع ملاحظة كاذبة في ذاكرة العمل الخاصة بالنموذج، ما يجعل الهدف يتعامل مع عبارة غير صحيحة وكأنها تحققت سابقا.
اختبار آلة البيع أعطى الهجوم هدفا ماديا
انتقل أحد الاختبارات إلى ما هو أبعد من أمثلة النص فقط. وأفاد The Next Web بأن GPT-Red هاجم Vendy، وهو وكيل AI بنته Andon Labs لإدارة آلة بيع حقيقية في مكتب OpenAI.
غيّر الهجوم الأسعار وخفّض سلعة مرتفعة السعر إلى حد أدنى قدره 50 سنتا وألغى طلب عميل. وقالت OpenAI إنها أفصحت عن الثغرات بعد الاختبار.
توضح الأرقام المنشورة سبب إبقاء OpenAI على أداة الهجوم داخلية. وقال The Next Web إن أكثر من 90% من أقوى هجمات GPT-Red نجحت ضد نسخة أقدم من GPT-5، بينما نجح أقل من 23% ضد GPT-5.6. وفي إعادة لاختبار من عام 2025، كسر GPT-Red نسبة 84% من السيناريوهات مقابل 13% لمختبري الاختراق البشر.
المختبرون البشر لا يزالون يلتقطون حالات فائتة
درّبت OpenAI نموذج GPT-5.6 ضد GPT-Red ووصفته بأنه أكثر أنظمتها صلابة ضد prompt injection، وفقا لـThe Next Web. وتستخدم الشركة أداة الهجوم لتقوية النماذج اللاحقة بدلا من توزيعها كأداة للباحثين الخارجيين.
وتظل الحدود مهمة لفرق السلامة. أفاد The Next Web بأن GPT-Red أضعف في الهجمات الممتدة ذهابا وإيابا وفي المحاولات التي تخفي التعليمات داخل الصور.
قالت Jessica Ji، محللة أمن AI في Georgetown CSET، لـThe Next Web إن الخبرة البشرية ستظل مهمة جدا. ولم تصدر OpenAI نموذج GPT-Red، وقال The Next Web إن الورقة الكاملة كانت لا تزال منتظرة في وقت لاحق من هذا الأسبوع.
Summary version for Medium
OpenAI Keeps GPT-Red Attack Model Private After Prompt-Injection Tests
What the announcement means beyond the headline
Quick Summary: The Next Web reported that OpenAI has built GPT-Red, an internal automated red-team model for prompt-injection attacks, but is keeping the attacker private. The report cited attack success rates above 90% against an older GPT-5 and below 23% against GPT-5.6, while noting that human testers still catch cases GPT-Red misses.
GPT-Red Targets Prompt-Injection Attacks
GPT-Red trains through self-play against defender models, according to the outlet. The attacker receives rewards when an exploit succeeds, and the defenders receive rewards for blocking the attempt.
Vendy Test Gave GPT-Red A Physical Target
One test moved beyond text-only examples.
- Point 1: The central topic is ai, with the announcement framed around concrete operating detail.
- Point 2: The outlet reported that GPT-Red attacked Vendy, an AI agent built by Andon Labs to run a real vending machine in OpenAI's office.
The important shift is not the AI label, but the operating boundary it creates for teams.
Human Testers Still Catch Missed Cases
OpenAI trained GPT-5.6 against GPT-Red and called the newer model its most robust system against prompt injection, according to the outlet. The company is using the attacker to harden later models rather than distributing it as a tool for outside researchers.
Read the Full Deep Dive
Want to explore the complete technical analysis, enterprise trade-offs, and detailed metrics?
Read the full article originally published at SendTech Times
