إشعارات قانونية من سان فرانسيسكو تستهدف 13 تطبيق تبديل وجوه بالذكاء الاصطناعي لدى Apple وGoogle
أفادت WIRED بأن David Chiu، المدعي العام لمدينة سان فرانسيسكو، أرسل إشعارات قانونية تطالب Apple وGoogle بإزالة 13 تطبيق تبديل وجوه من متجريهما وقطع العلاقات مع المطورين. وقالت Google إن تطبيقات Android الخمسة التي أشار إليها المكتب حذفت، بينما ذكرت WIRED أن Apple لم تعلق قبل النشر.
أصبحت 13 تطبيقا لتبديل الوجوه بالذكاء الاصطناعي موضوع إشعارات قانونية من سان فرانسيسكو تستهدف Apple وGoogle، بعدما طالب David Chiu، المدعي العام للمدينة، بإزالتها من App Store وGoogle Play.
أفادت WIRED بأن Chiu أرسل الإشعارات يوم الخميس، قائلا إن المنصتين يجب أن توقفا "المساعدة والتحريض" على بيع صور deepfake صريحة وأن تقطعا علاقات الأعمال مع مطوري التطبيقات.
الإشعارات القانونية في سان فرانسيسكو تسمي 13 تطبيق تبديل وجوه
غطت الإشعارات 8 تطبيقات على App Store و5 تطبيقات على Google Play، بحسب WIRED. وقال Chiu لـ WIRED إن إنشاء صور حميمة غير توافقية غير قانوني وضار وغير مقبول، وأضاف أن Apple وGoogle حققتا على الأرجح ملايين الدولارات من رسوم التطبيقات التي تقدم خصائص nudification.
استندت رسائل المدعي العام إلى قانون في California يحظر دعم الخدمات المستخدمة في إنشاء مواد deepfake إباحية. وتستخدم التطبيقات المدفوعات داخل التطبيق، وذكرت WIRED أن الشركتين تحصلان على حصة من تلك المعاملات.
أفادت WIRED بأن مكتب المدعي العام للمدينة اتخذ سابقا إجراءات قانونية ضد 16 موقع deepfake شائعا. وجادلت الرسائل الأحدث بأن Apple وGoogle تتحملان مسؤولية ضمان ألا تستخدم التطبيقات على منصتيهما لتسهيل الإساءة الجنسية.
Google تقول إن تطبيقات Android الخمسة المشار إليها حذفت
قال Dan Jackson، المتحدث باسم Google، لـ WIRED إن Google حذفت مئات التطبيقات التي تتضمن خصائص nudifying بسبب انتهاكات السياسات، بما في ذلك تطبيقات Android الخمسة التي أشار إليها مكتب Chiu. وقال Jackson إن Google Play لا يسمح بالتطبيقات التي تحتوي على محتوى جنسي وإن الشركة تحقق في الانتهاكات المبلغ عنها.
نشرت WIRED التقرير من دون تعليق من Apple قبل الموعد المحدد. وقال التقرير إن لدى Apple وGoogle سياسات للمطورين تحظر المواد الإباحية والإساءة والتحرش، وإن الشركتين أزالتا سابقا عشرات تطبيقات nudify وdeepfake بعد تقارير من باحثين وصحافيين.
قالت WIRED إن التطبيقات المستهدفة كانت تعلن عموما عن نفسها كأدوات لتبديل الوجوه، بينما أصبحت خصائص deepfake الجنسية متاحة عند استخدامها. وذكر التقرير أن موقع أحد التطبيقات أعلن أكثر من 1 مليون تنزيل، بينما ادعى تطبيق مستهدف آخر أنه ينتج مقاطع فيديو مجانية وغير خاضعة للرقابة.
أبحاث وجدت مخاطر مزدوجة الاستخدام في تطبيقات تبديل الوجوه
حدد Tech Transparency Project نحو 100 تطبيق عبر App Store وGoogle Play في يناير وأبريل من هذا العام، وفقا لما أوردته WIRED. وقدرت الأبحاث أن التطبيقات نزلت نحو 480 مليون مرة وربما حققت نحو 120 مليون دولار من الإيرادات المجمعة.
حددت ورقة أولية في مايو لباحثين من Cornell University وGeorgetown University عدد 420 تطبيقا عاما لتبديل الوجوه على متجري Apple وGoogle. واختبر الباحثون 155 منها ووجدوا أن 70% يمكن استخدامها لإنشاء عمليات تبديل وجوه مع صور عارية من دون تدابير أمان تمنع الناتج.
وصف باحثو Cornell وGeorgetown التطبيقات بأنها أدوات مزدوجة الاستخدام يمكن أن تبدو عادية بينما تظل قادرة على إنشاء محتوى ضار. وقال المدعي العام للمدينة لـ WIRED إن مكتبه يريد من Apple وGoogle إزالة التطبيقات وتعزيز أنظمة الفحص قبل وصول أدوات مشابهة إلى المتاجر.
ربط المكتب الإشعارات بحملة أوسع ضد الصور الحميمة غير التوافقية.
لم يتضمن تقرير WIRED رد Apple أو موعدا نهائيا لإزالة التطبيقات من المتاجر أو جدولا منفصلا للامتثال من Google أو أي دعوى قضائية مرفوعة ضد Apple أو Google.
Summary version for Medium
San Francisco Legal Notices Target 13 AI Face-Swap Apps On Apple And Google Stores
What the policy signal means for operators and investors
Quick Summary: WIRED reported that San Francisco City Attorney David Chiu sent legal notices demanding Apple and Google remove 13 face-swapping apps from their app stores and end business relationships with the developers. Google said the five Android apps flagged by the office were deleted, while Apple did not comment before publication.
San Francisco Legal Notices Name 13 Face-Swap Apps
The notices covered eight apps on Apple’s App Store and five on Google Play. Chiu told WIRED that generating non-consensual intimate images is illegal, harmful and unacceptable, and added that Apple and Google likely made millions of dollars in fees from apps offering nudification.
Google Deletes Five Flagged Android Apps
Google spokesperson Dan Jackson told WIRED that the company had removed hundreds of nudifying apps for policy violations, including the five Android apps flagged by Chiu’s office.
- Point 1: The central topic is capital-policy, with the announcement framed around concrete operating detail.
- Point 2: Jackson said Google Play does not allow apps containing sexual content and that the company investigates policy breaches.
The important shift is not the AI label, but the operating boundary it creates for teams.
Research Found Dual-Use Face-Swap App Risk
The Tech Transparency Project identified around 100 apps across the App Store and Google Play in January and April this year, according to WIRED. WIRED reported that the research estimated the apps had been downloaded around 480 million times and may have generated around $120 million in combined revenue.
Read the Full Deep Dive
Want to explore the complete technical analysis, enterprise trade-offs, and detailed metrics?
Read the full article originally published at SendTech Times
