التزييف العميق يتطور. هذه الشركة تريد الإمساك بهم جميعًا

بدأت بعض شركات Fortune 500 في اختبار برامج يمكنها اكتشاف التزييف العميق لشخص حقيقي في مكالمة فيديو مباشرة، في أعقاب سلسلة من عمليات الاحتيال التي شملت الباحثين عن عمل المحتالين الذين يحصلون على مكافأة التوقيع ويهربون.

تأتي تقنية الكشف هذه بفضل شركة Get Real Labs، وهي شركة جديدة أسسها هاني فريد، أستاذ بجامعة كاليفورنيا في بيركلي وذو خبرة كبيرة في مجال التزييف العميق والتلاعب بالصور والفيديو.

قامت Get Real Labs بتطوير مجموعة من الأدوات لاكتشاف الصور والصوت والفيديو التي يتم إنشاؤها أو معالجتها إما باستخدام الذكاء الاصطناعي أو الطرق اليدوية. يمكن لبرنامج الشركة تحليل الوجه في مكالمة فيديو وتحديد الأدلة التي قد تشير إلى أنه تم إنشاؤه بشكل مصطنع واستبداله بجسم شخص حقيقي.

يقول فريد: “هذه ليست هجمات افتراضية، لقد سمعنا عنها أكثر فأكثر”. “في بعض الحالات، يبدو أنهم يحاولون الحصول على الملكية الفكرية، والتسلل إلى الشركة. وفي حالات أخرى، يبدو الأمر ماليًا بحتًا، فهم يحصلون فقط على مكافأة التوقيع.

أصدر مكتب التحقيقات الفيدرالي (FBI) تحذيرًا في عام 2022 بشأن الباحثين عن وظائف عميقة التزييف الذين ينتحلون هوية شخص حقيقي أثناء مكالمات الفيديو. خسرت شركة التصميم والهندسة Arup، ومقرها المملكة المتحدة، 25 مليون دولار بسبب محتال مزيف تظاهر بأنه المدير المالي للشركة. كما اعتمد المحتالون الرومانسيون هذه التكنولوجيا، حيث قاموا بخداع الضحايا المطمئنين وسحب مدخراتهم.

إن انتحال شخصية شخص حقيقي في بث فيديو مباشر هو مجرد مثال واحد على نوع الخدع التي تذوب الواقع والتي أصبحت ممكنة الآن بفضل الذكاء الاصطناعي. يمكن لنماذج اللغات الكبيرة أن تحاكي بشكل مقنع شخصًا حقيقيًا في الدردشة عبر الإنترنت، في حين يمكن إنشاء مقاطع فيديو قصيرة باستخدام أدوات مثل Sora من OpenAI. لقد أدى التقدم المذهل في الذكاء الاصطناعي في السنوات الأخيرة إلى جعل التزييف العميق أكثر إقناعًا وأكثر سهولة في الوصول إليه. تسهل البرامج المجانية صقل مهارات التزييف العميق، ويمكن لأدوات الذكاء الاصطناعي التي يمكن الوصول إليها بسهولة تحويل المطالبات النصية إلى صور ومقاطع فيديو واقعية المظهر.

لكن انتحال شخصية شخص ما في مقطع فيديو مباشر يعد مجالًا جديدًا نسبيًا. عادةً ما يتضمن إنشاء هذا النوع من التزييف العميق استخدام مزيج من التعلم الآلي وخوارزميات تتبع الوجه لدمج وجه مزيف بسلاسة مع وجه حقيقي، مما يسمح للمتطفل بالتحكم في ما يقوله ويفعله الشبه غير المشروع على الشاشة.

أعطى فريد WIRED عرضًا توضيحيًا لتقنية Get Real Labs. عندما يتم عرض صورة لغرفة مجلس إدارة الشركة، يقوم البرنامج بتحليل البيانات الوصفية المرتبطة بالصورة بحثًا عن علامات تشير إلى أنه تم تعديلها. تقوم العديد من شركات الذكاء الاصطناعي الكبرى، بما في ذلك OpenAI وGoogle وMeta، بإضافة التوقيعات الرقمية إلى الصور التي ينشئها الذكاء الاصطناعي، مما يوفر طريقة قوية لتأكيد عدم صحتها. ومع ذلك، لا توفر جميع الأدوات مثل هذه الطوابع، ويمكن تهيئة مولدات الصور مفتوحة المصدر بحيث لا توفرها. يمكن أيضًا معالجة البيانات الوصفية بسهولة.