أخبار تقنية

مشكلة الصور الصريحة غير التوافقية في جوجل تزداد سوءًا


في أوائل عام 2022، التقى اثنان من موظفي سياسة Google بثلاث نساء وقعن ضحايا لعملية احتيال أدت إلى تداول مقاطع فيديو فاضحة لهن عبر الإنترنت، بما في ذلك عبر نتائج بحث Google. وكانت النساء من بين مئات الشباب الذين استجابوا للإعلانات التي تبحث عن عارضات ملابس السباحة ليتم إجبارهم على الأداء في مقاطع فيديو جنسية يوزعها موقع GirlsDoPorn. تم إغلاق الموقع في عام 2020، واعترف منتج ومحاسب ومصور لاحقًا بالذنب في الاتجار بالجنس، لكن مقاطع الفيديو استمرت في الظهور على بحث Google بشكل أسرع من قدرة النساء على طلب الإزالة.

وقدمت النساء، برفقة محامٍ وخبير أمني، مجموعة كبيرة من الأفكار حول كيفية قيام Google بإخفاء المقاطع الإجرامية والمهينة بشكل أفضل، وفقًا لخمسة أشخاص حضروا الاجتماع الافتراضي أو تم إطلاعهم عليه. لقد أرادوا أن يقوم محرك البحث Google بحظر مواقع الويب المخصصة لـ GirlsDoPorn ومقاطع الفيديو التي تحمل العلامة المائية الخاصة بها. واقترحوا أن جوجل يمكن أن تستعير القرص الصلب بسعة 25 تيرابايت الذي حفظ عليه مستشار الأمن السيبراني للسيدات، تشارلز ديباربر، كل حلقة من حلقات GirlsDoPorn، وأخذ بصمة رياضية، أو “تجزئة” لكل مقطع، وحظرها من الوصول إلى المحتوى. الظهور مرة أخرى في نتائج البحث.

كان العاملان في Google في الاجتماع يأملان في استخدام ما تعلماه لكسب المزيد من الموارد من كبار المسؤولين. لكن محامي الضحية، بريان هولم، شعر بالريبة. ويقول إن فريق السياسات كان في “موقف صعب” و”لم يكن لديه السلطة لإحداث التغيير داخل جوجل”.

كان رد فعله الغريزي صحيحًا. وبعد مرور عامين، لم يتم تفعيل أي من تلك الأفكار التي تم طرحها في الاجتماع، ولا تزال مقاطع الفيديو تظهر في البحث.

تحدثت WIRED مع خمسة موظفين سابقين في Google و10 من المدافعين عن الضحايا الذين كانوا على اتصال مع الشركة. ويقولون جميعًا إنهم يقدرون أنه بسبب التغييرات الأخيرة التي أجرتها Google، يمكن للناجين من الاعتداء الجنسي القائم على الصور، مثل عملية احتيال GirlsDoPorn، إزالة نتائج البحث غير المرغوب فيها بسهولة أكبر ونجاح. لكنهم يشعرون بالإحباط لأن الإدارة في عملاق البحث لم توافق على المقترحات، مثل فكرة القرص الصلب، والتي يعتقدون أنها ستعمل على استعادة خصوصية ملايين الضحايا حول العالم والحفاظ عليها بشكل كامل، وأغلبهم من النساء.

تصف المصادر المداولات الداخلية التي لم يتم الإبلاغ عنها سابقًا، بما في ذلك الأساس المنطقي لشركة Google لعدم استخدام أداة صناعية تسمى StopNCII والتي تشارك معلومات حول الصور الحميمية غير التوافقية (NCII) وفشل الشركة في مطالبة مواقع الويب الإباحية بالتحقق من الموافقة للتأهل للبحث. مرور. وقد نشر فريق البحث التابع لشركة Google الخطوات التي يمكن لشركات التكنولوجيا اتخاذها ضد NCII، بما في ذلك استخدام StopNCII.

تعتقد المصادر أن مثل هذه الجهود من شأنها أن تحتوي بشكل أفضل على مشكلة متنامية، وذلك جزئيًا من خلال توسيع الوصول إلى أدوات الذكاء الاصطناعي التي تنشئ صورًا مزيفة واضحة، بما في ذلك الناجين من GirlsDoPorn. وقد تضاعفت إجمالي التقارير الواردة إلى الخط الساخن للإباحية الانتقامية في المملكة المتحدة في العام الماضي، لتصل إلى ما يقرب من 19000، وكذلك عدد الحالات التي تنطوي على محتوى اصطناعي. يشعر نصف البريطانيين الذين يزيد عددهم عن 2000 في استطلاع حديث بالقلق من الوقوع ضحية للتزييف العميق. وحث البيت الأبيض في مايو المشرعين والصناعة على اتخاذ إجراءات أسرع للحد من NCII بشكل عام. وفي يونيو/حزيران، انضمت جوجل إلى سبع شركات أخرى وتسع منظمات في الإعلان عن مجموعة عمل لتنسيق الاستجابات.

في الوقت الحالي، يمكن للضحايا المطالبة بمحاكمة المسيئين أو رفع دعاوى قانونية ضد مواقع الويب التي تستضيف المحتوى، ولكن لا يتم ضمان أي من هذه الطرق، وكلاهما يمكن أن يكون مكلفًا بسبب الرسوم القانونية. يمكن أن يكون إقناع Google بإزالة النتائج هو التكتيك الأكثر عملية ويخدم الهدف النهائي المتمثل في إبقاء المحتوى المخالف بعيدًا عن أعين الأصدقاء أو مديري التوظيف أو الملاك المحتملين أو التواريخ – الذين يلجأون على الأرجح إلى Google للبحث عن الأشخاص.

ورفض متحدث باسم جوجل، الذي طلب عدم الكشف عن هويته لتجنب مضايقات الجناة، التعليق على المكالمة مع ضحايا GirlsDoPorn. وتقول إن مكافحة ما تشير إليه الشركة بالصور الصريحة غير التوافقية (NCEI) تظل أولوية وأن إجراءات Google تتجاوز بكثير ما هو مطلوب قانونًا. وتقول: “على مر السنين، استثمرنا بعمق في السياسات ووسائل الحماية الرائدة في الصناعة للمساعدة في حماية الأشخاص المتأثرين بهذا المحتوى الضار”. “تواصل الفرق عبر Google العمل بجد لتعزيز إجراءات الحماية لدينا ومعالجة التحديات الناشئة بشكل مدروس لحماية الأشخاص بشكل أفضل.”

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى