أبل وجوجل تم إصدار أوامر لهم بإزالة التطبيقات التي يمكنها “تعري” الأشخاص أو “خلع ملابسهم”، وإخبارهم بأنه يجب عليهم التوقف عن الاستفادة من التكنولوجيا الضارة، وذلك وفقًا لرسائل التوقف والكف المرسلة إلى الشركات التي اطلعت عليها WIRED.
أرسل ديفيد تشيو، محامي مدينة سان فرانسيسكو، يوم الخميس، إشعارات قانونية إلى شركتي أبل وجوجل يطالبهما بإزالة 13 تطبيقًا لتبادل الوجه من متاجر التطبيقات الخاصة بهما، والتي تسمح للمستخدمين بإنشاء صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون رضاهم. تقول الرسائل إن على عمالقة وادي السيليكون التوقف عن “المساعدة والتحريض” على بيع الصور المزيفة الصريحة و”قطع” العلاقات التجارية مع مطوري التطبيقات.
يقول تشيو لـ WIRED: “إن إنتاج صور حميمة بدون موافقة هو أمر غير قانوني وضار وغير مقبول على الإطلاق”. يقول محامي المدينة، الذي اتخذ مكتبه سابقًا إجراءً قانونيًا ضد 16 موقعًا شهيرًا للتزييف العميق، إن شركتي Apple وGoogle من المحتمل أن “جنيا ملايين الدولارات كرسوم” من التطبيقات التي تعرض التعري، ويجب عليهما تحسين عمليات الإشراف لمنع ظهورها في متاجرهما في المقام الأول.
يقول تشيو: “تتحمل هذه الشركات مسؤولية التأكد من أن التطبيقات الموجودة على منصاتها لا تسهل الاعتداء الجنسي”. تقول الرسائل القانونية للمدينة إن قوانين كاليفورنيا تحظر دعم الخدمات التي تنشئ مواد إباحية مزيفة للغاية. وتقول الرسائل إن التطبيقات تستخدم عمليات الدفع داخل التطبيق، والتي تحصل شركات التكنولوجيا على حصة منها. “حقيقة أن بعض أكبر شركات التكنولوجيا وأكثرها رسوخًا في العالم تقوم بتسهيل هذا الأمر يجب أن تتوقف”.
لقد عثر الباحثون مرارًا وتكرارًا على تطبيقات في متجر تطبيقات Apple ومتجر Google Play، والتي تسمح للأشخاص بإنشاء صور جنسية باستخدام الذكاء الاصطناعي، وأبلغوا عنها، بما في ذلك بعض التطبيقات التي تم تصنيفها على أنها مناسبة للاستخدام من قبل الأطفال. في حين تهدف القوانين والحظر الجديد إلى معالجة آفة التزييف العميق الصريح عبر الإنترنت، فإن شركات التكنولوجيا ووسائل التواصل الاجتماعي توجه ملايين الأشخاص باستمرار نحو التكنولوجيا الضارة.
لدى كل من Apple وGoogle سياسات مطورين تحظر المواد الإباحية والإساءة والتحرش على منصاتهما. لقد قاموا سابقًا بإزالة العشرات من تطبيقات العري والتزييف العميق، بعد تقارير من الباحثين والصحفيين.
أخبر المتحدث باسم جوجل، دان جاكسون، WIRED أن الشركة حذفت “مئات” التطبيقات ذات الميزات العارية بسبب انتهاكات السياسة، بما في ذلك تطبيقات Android الخمسة التي أبلغ عنها مكتب تشيو، من بين خطوات أخرى لتقييد الوصول إليها.
وقال جاكسون في بيان: “لا يسمح Google Play بالتطبيقات التي تحتوي على محتوى جنسي، ونحن نتخذ باستمرار خطوات استباقية لاكتشاف وإزالة التطبيقات ذات المحتوى الضار”. “عندما يتم إبلاغنا بالانتهاكات، فإننا نحقق ونتخذ إجراءات سريعة، والتي تضمنت في حالة هذه التطبيقات تعليق مئات التطبيقات المخالفة وتقييد مصطلحات البحث ذات الصلة مثل “nudify” في متجرنا.”
ولم تقدم شركة أبل أي تعليق قبل النشر.
على مدى السنوات الخمس الماضية، ظهرت على الإنترنت مجموعة مربحة للغاية من تقنية “التعري” العميقة – الأكثر شفافية مع استخدام Grok من xAI لإنشاء ملايين الصور الجنسية في يناير. تسمح مجموعة من التطبيقات والمواقع الإلكترونية والروبوتات للأشخاص (معظمهم من الرجال) بتحميل صور الأشخاص (أغلبيتهم الساحقة من النساء والفتيات) و”إزالة” الملابس رقميًا أو وضعها في سيناريوهات جنسية مصورة.
في كثير من الأحيان، كل ما يتطلبه الأمر لإنشاء صور مزيفة جنسية هو صورة مرجعية وبضع نقرات، مع توفر بعض النتائج في ثوانٍ. أصبحت الصور ومقاطع الفيديو أكثر واقعية مع تحسن تقنية الذكاء الاصطناعي التوليدية الأساسية، حيث تقدم الخدمات بعض النتائج مجانًا أو تفرض رسومًا بسيطة لإنشاء محتوى ضار. كشفت التقارير السابقة التي أعدتها WIRED وIndicator Media عن حوادث في 90 مدرسة على الأقل حيث تم إنشاء صور اعتداء جنسي مزيفة على قاصرين.
