تنبيهات سلامة المراهقين في Meta AI تصل إلى الآباء في أربع أسواق
قالت Meta إن Meta AI سينبه الآباء المشرفين عندما توحي محادثات المراهقين بخطر الانتحار أو إيذاء النفس، بدءا من الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وقالت الشركة إن المحادثات المحددة ستخضع لمراجعة بشرية قبل إرسال التنبيهات، لكنها لم تنشر دقة الكشف أو موعد مسار الطوارئ أو نتائج تقييم مستقل.
أصبحت تنبيهات Meta للآباء بشأن محادثات المراهقين عن الانتحار أو إيذاء النفس مع Meta AI متاحة الآن لمستخدمي الإشراف على Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وتستخدم هذه التنبيهات إشارات طُوّرت بمشاركة خبراء، إلى جانب مراجعة بشرية قبل أن يتلقى أحد الوالدين الإشعار.
ويأتي هذا التغيير ضمن تحديث أوسع لسلامة المراهقين في المحادثات الحساسة مع الذكاء الاصطناعي. وكان المساعد يوجّه المراهقين بالفعل إلى خطوط المساعدة في الأزمات ويشجعهم على التواصل مع أحد الوالدين أو شخص بالغ موثوق أو مستشار عندما تشير المطالبات إلى الانتحار أو إيذاء النفس.
تنبيهات Meta AI متاحة في أربع أسواق
يشمل الطرح الأول العائلات التي تستخدم الإشراف الأبوي على Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وفقا لـMeta. وأضافت الشركة أن الآباء المشرفين حول العالم من المقرر أن يحصلوا على هذه الميزة بحلول نهاية العام.
وصُمم نظام التنبيه للمحادثات التي يرد فيها من المراهق إشارة واضحة إلى إيذاء نفسه، بما في ذلك الإشارات غير المباشرة. وساعد آباء وخبراء في تحديد محادثات الذكاء الاصطناعي التي تستدعي تنبيها، بينما يتولى نظام ذكاء اصطناعي مخصص تحديد تلك الحالات.
وتخضع جميع الدردشات التي يحددها نظام الذكاء الاصطناعي لمراجعة بشرية قبل إرسال التنبيه. وحذرت Meta من أن التعامل الحذر مع الحالات الغامضة قد يؤدي إلى بعض الإشعارات للآباء رغم عدم وجود سبب حقيقي للقلق.
مسار خدمات الطوارئ لا يزال قيد التطوير
يجري تطوير وظيفة منفصلة لخدمات الطوارئ للمحادثات التي توحي بأن بالغا أو مراهقا قد يكون معرضا لخطر وشيك للانتحار. ويمتد هذا المسار المخطط له من الإجراءات القائمة بالفعل على Facebook وInstagram للتعامل مع المنشورات التي تنطوي على خطر انتحار موثوق.
وأوضحت Meta أن تلك الإجراءات القائمة تنبّه خدمات الطوارئ حتى يتمكن المستجيبون الأوائل من إجراء فحوص للاطمئنان على أشخاص قد يكونون معرضين للخطر. وما زال مسار محادثات الذكاء الاصطناعي الجديد قدرة مخططا لها وليس إطلاقا بموعد محدد.
أطباء راجعوا مئات المطالبات المرتبطة بسلامة المراهقين
تسهم ملاحظات أكثر من 75 اختصاصيا في الصحة النفسية في تشكيل تغييرات على ردود المساعد، وفقا لـMeta. ويختص هؤلاء الأطباء بالصحة النفسية للمراهقين، وقد راجعوا ردود الذكاء الاصطناعي على مئات المطالبات.
وشملت المراجعة مدى ملاءمة الردود للمراهقين، وما الردود التي كانت فعالة، وكيف يمكن تحسينها. وتتضمن التغييرات المخطط لها الإقرار بمشاعر المراهق عند توجيهه إلى موارد الدعم، بدلا من إنهاء المحادثة بسرعة مفرطة.
كما يسرد التحديث استمرار التشاور مع AI Wellbeing Expert Council وSuicide and Self-Harm Advisory Group وYouth Advisors. وقالت Dr Ji-yeon Lee، وهي أخصائية نفسية مرخصة وأستاذة علم نفس إرشادي في Hankuk University of Foreign Studies، إن المراجعة السريرية فحصت الردود الفورية والسياق الأوسع للمحادثة والمتابعة ومستويات المخاطر المختلفة.
إعداد Limited Content سيشمل محادثات الذكاء الاصطناعي
تستخدم Teen Accounts تلقائيا إعداد محتوى 13+، وينطبق ذلك أيضا على محادثات الذكاء الاصطناعي، وفقا لـMeta. وصُمم الإعداد الافتراضي لإنتاج ردود مناسبة للعمر وعدم الامتثال للمطالبات الحساسة، بما في ذلك المحادثات الجنسية أو الرومانسية مع المراهقين أو طلبات وصفات المشروبات الكحولية.
وسينطبق إعداد Limited Content الأكثر صرامة في Instagram الآن على تجارب الذكاء الاصطناعي أيضا. وعندما يختار الآباء هذا الإعداد، سيرفض المساعد الاستجابة لنطاق أوسع من المطالبات وسيقلل بدرجة أكبر من احتمال المحادثات غير الملائمة.
ولا تزال دقة الاكتشاف ومعدلات الإيجابيات الكاذبة والسلبيات الكاذبة وتوقيت إطلاق مسار الطوارئ ونتائج التقييم المستقل خارج السجل العام لنظام تنبيهات سلامة المراهقين الجديد.
Summary version for Medium
Meta AI Teen Safety Alerts Go Live For Parents In Four Markets
What the policy signal means for operators and investors
Quick Summary: Meta said parent alerts for teen suicide or self-harm discussions with Meta AI are live for Instagram supervision users in the U.S., U.K., Australia and Canada. Flagged chats will be manually reviewed before alerts are sent, while detection accuracy, emergency-routing timing and independent evaluation results remain outside the public record.
Parent Alerts Are Live In The US, UK, Australia And Canada
The first rollout covers families using Instagram parental supervision in the U.S., U.K., Australia and Canada, according to Meta. Supervising parents worldwide are due to get access by the end of the year, the company added.
Emergency-Service Routing Is Still In Development
A separate emergency-services function is being built for conversations that suggest an adult or teenager may be at imminent risk of suicide.
- Point 1: The central topic is capital-policy, with the announcement framed around concrete operating detail.
- Point 2: The planned function extends existing Facebook and Instagram processes for credible suicide-risk posts.
The important shift is not the AI label, but the operating boundary it creates for teams.
Clinicians Reviewed Hundreds Of Teen-Safety Prompts
Feedback from more than 75 mental-health clinicians is shaping changes to the assistant's responses, according to Meta. The clinicians specialise in teen mental health and reviewed AI responses to hundreds of prompts.
Read the Full Deep Dive
Want to explore the complete technical analysis, enterprise trade-offs, and detailed metrics?
Read the full article originally published at SendTech Times
