أسست Meta وSnap وTikTok برنامجًا جديدًا يسمى Thrive للمساعدة في وقف انتشار المحتوى الرسومي الذي يصور أو يشجع على إيذاء النفس والانتحار. يتيح Thrive للشركات المشاركة مشاركة “الإشارات” لتنبيه بعضها البعض بانتهاك المحتوى الموجود على منصاتها.
تم إنشاء Thrive بالتعاون مع Mental Health Coalition، وهي منظمة خيرية تقول إنها تعمل على إزالة وصمة العار المحيطة بمناقشات الصحة العقلية. تقول Meta إنها توفر البنية التحتية التقنية وراء Thrive والتي تتيح “مشاركة الإشارات بشكل آمن”. ويستخدم نفس تقنية مشاركة الإشارات عبر الأنظمة الأساسية المستخدمة في برنامج Lantern، والتي تم تصميمها للمساعدة في مكافحة إساءة معاملة الأطفال عبر الإنترنت. يمكن للشركات المشاركة مشاركة التجزئة التي تطابق الوسائط المخالفة للإشارة إليها لبعضها البعض.
تقول Meta إنها جعلت بالفعل من الصعب العثور على مثل هذا المحتوى على منصتها، لكنها تحاول ترك مجال للأشخاص لمناقشة قصصهم المتعلقة بصحتهم العقلية والانتحار وإيذاء النفس، طالما أنهم لا يروجون له أو يقدمون أوصافًا بيانية.
وفقًا لمخططات Meta، تتخذ الشركة إجراءات بشأن ملايين المقاطع من محتوى الانتحار وإيذاء النفس كل ثلاثة أشهر. وفي الربع الأخير، استعادت ما يقدر بنحو 25000 من هذه المنشورات، معظمها بعد أن استأنف أحد المستخدمين.
