مشروع لمتعاقدي Meta اختبر روبوتات دردشة منافسة بحسابات دون 18 عاماً
تصف وثائق داخلية وأشخاص مطلعون على العمل مشروعاً لمتعاقد مع Meta استخدم حسابات وهمية دون 18 عاماً لاختبار روبوتات دردشة منافسة على مطالبات تتعلق بالانتحار والجنس والمخدرات وموضوعات عالية المخاطر. ودافعت Meta عن العمل بوصفه اختبار سلامة اعتيادياً، بينما قالت الشركات المنافسة إنها لم تصرح به.
مشروع Meta استخدم حسابات وهمية دون 18 عاماً
وجّه مشروع تابع لمتعاقد مع Meta مئات العاملين إلى انتحال صفة قاصرين أثناء اختبار كيفية رد روبوتات دردشة منافسة على مطالبات عالية المخاطر تتعلق بالانتحار والجنس واضطرابات الأكل والمخدرات وموضوعات أخرى مقيدة.
أدارت Covalen العمل، وكان نشطاً حتى 21 أبريل على الأقل. ووصفت وثائق داخلية وخمسة أشخاص مطلعين على المشروع الجهد باسم Cannes، وهو برنامج قياس استهدف ChatGPT من OpenAI وGemini من Google وCharacter.AI.
أنشأ المتعاقدون حسابات وهمية بدت كأنها تعود لمستخدمين دون 18 عاماً، وأرسلوا مطالبات مكتوبة وصوراً إلى الخدمات المنافسة، ثم نسخوا الردود في جداول بيانات. وقالت Meta إن العمل كان اختبار سلامة مسؤولاً ومعيارياً في الصناعة، وإنها لا تستخدم قياس المنافسين لتدريب نماذج الذكاء الاصطناعي الخاصة بها.
اختبار أغسطس 2025 شمل أكثر من 45,000 مطالبة
أرسلت جولة اختبار اكتملت في أغسطس 2025 أكثر من 45,000 مطالبة عبر أنظمة روبوتات الدردشة المنافسة. واحتوى جدول بيانات منفصل على 3,748 مطالبة، بينها مئات عن الانتحار وإيذاء النفس، ومئات أخرى عن اضطرابات الأكل، وما لا يقل عن 239 تتعلق بالجنس أو العلاقات العاطفية.
شملت المواد بعض المطالبات المكتوبة من منظور أطفال أو مراهقين في أزمات. وأظهرت بعض الصور التي أرسلها المتعاقدون حبوباً وسكاكين ومشانق ورسماً طبياً لإجراء نسائي. ولم تكن الشركات التي تشغل روبوتات الدردشة المختبرة على علم بالمشروع.
لا تقول الوثائق كيف استخدمت Meta الردود المجمعة. ووثيقة داخلية من Covalen وصفت العمل بأنه قياس شامل لسلامة الذكاء الاصطناعي وقالت إنه أنتج مجموعات بيانات للمقارنة بين النماذج والامتثال. ولم ترد Covalen على طلب للتعليق.
الشركات المنافسة تقول إن الاختبار لم يكن مصرحاً به
قالت Character.AI إن السلوك المزعوم خالف شروط الخدمة وسياسات المجتمع لديها. وقالت OpenAI إنها تنظر في المسألة، بينما قالت Google إنها لم تصرح بالاختبار الخارجي ولا تعرف غرض المشروع.
تحظر OpenAI اختبار السلامة غير المطلوب، ومحاولات تجاوز إجراءات الحماية، واستخدام المخرجات لتطوير نماذج منافسة. كما تقيد Google محاولات تجاوز مرشحات السلامة خارج برامج الاختبار المعتمدة. وقالت Character.AI منذ أواخر 2025 إنها لم تعد تسمح بالدردشة المفتوحة للمستخدمين دون 18 عاماً.
قال محاميان راجعا أمثلة من المطالبات إن المواد المعروضة عليهما لم تصل إلى حد طلب إنتاج مواد اعتداء جنسي على الأطفال أو فحش غير قانوني. ومع ذلك وصف متعاقدون سابقون قلقهم من أن العمل قد يولد أو يحتفظ بمواد غير قانونية إذا رد روبوت دردشة على بعض المطالبات الجنسية المتعلقة بقاصرين.
قياس السلامة يترك فجوة حوكمة
راجعت Rumman Chowdhury، الرئيسة التنفيذية ومؤسسة Humane Intelligence PBC، عينة من المطالبات وملخصاً للمشروع. وقالت إن مشروعاً واسع النطاق يستخدم حسابات وهمية تبدو كأنها لأطفال يقع خارج ما يوصف عادة بأنه تقييم معياري في الصناعة.
قالت Chowdhury إن مطالبات سلامة الشباب يمكن أن تكون مفيدة لقياس عدد مرات رفض روبوتات الدردشة للطلبات الضارة، لكن حجم مشروع Cannes وغموضه وغياب الإفصاح للشركات التي جرى اختبارها جعلته مختلفاً عن معايير السلامة العامة.
لم تفصح Meta عن كيفية استخدامها لردود روبوتات الدردشة المجمعة، أو ما إذا كانت أي مخرجات من المنافسين دخلت في قرارات المنتجات الداخلية، أو ما إذا كان المشروع حصل على موافقة OpenAI أو Google أو Character.AI.
Summary version for Medium
Meta Contractor Project Tested Rival Chatbots With Under-18 Accounts
What the announcement means beyond the headline
Quick Summary: Internal documents and people familiar with the work describe a Meta contractor project that used dummy under-18 accounts to test rival chatbots on suicide, sex, drugs and other high-risk prompts. Meta defended the work as routine safety benchmarking, while rivals said they had not authorized it.
Meta Contractor Project Used Dummy Under-18 Accounts
A Meta contractor project instructed hundreds of workers to pose as minors while testing how rival chatbots responded to high-risk prompts about suicide, sex, eating disorders, drugs and other restricted subjects. The work was managed by Covalen and was active as recently as April 21.
August 2025 Testing Included More Than 45,000 Prompts
One round of testing completed in August 2025 sent more than 45,000 prompts through rival chatbot systems.
- Point 1: The central topic is ai, with the announcement framed around concrete operating detail.
- Point 2: A separate spreadsheet contained 3,748 prompts, including hundreds about suicide and self-harm, hundreds more about eating disorders, and at least 239 involving sex or romance.
The important shift is not the AI label, but the operating boundary it creates for teams.
Rivals Say The Testing Was Not Authorized
Character.AI said the alleged conduct violated its terms of service and community policies. OpenAI said it was looking into the issue, while Google said it had not authorized the third-party testing and did not know the project’s purpose.
Read the Full Deep Dive
Want to explore the complete technical analysis, enterprise trade-offs, and detailed metrics?
Read the full article originally published at SendTech Times
