في شهر مارس، دعا مجلس الرقابة التابع لشركة Meta الشركة إلى “الوفاء بالتزاماتها العامة واستخدام أدواتها الخاصة” للمساعدة في قمع انتشار محتوى الذكاء الاصطناعي التوليدي الخادع عبر المنصات. استجابت شركة Meta في شهر يوليو من خلال تقديم Content Seal، وهي تقنية غير مرئية للعلامات المائية تحدد الصور التي تم إنشاؤها بواسطة نموذج الذكاء الاصطناعي الجديد للشركة. لكنها كانت في الأساس حاشية مدفونة في إعلان الشركة عن أدوات إنشاء الصور والفيديو الخاصة بها.
باعتباري شخصًا يقضي الكثير من الوقت في التدقيق في أنظمة تصنيف الذكاء الاصطناعي، فإن ختم المحتوى لا يملأني بالثقة. توجد بالفعل حلول أكثر رسوخًا، مثل بيانات اعتماد محتوى C2PA وSynthID من Google، والتي كان من الممكن أن تستخدمها Meta بدلاً من إطلاق نظامها الخاص بشكل ملحوظ لاحقًا. بعد البحث لمعرفة سبب قيام Meta بإطلاق نظامها الخاص، لست مقتنعًا بأن Meta قد فكرت في هذا الأمر مليًا.
وفقًا لوصف Meta، يعمل Content Seal بشكل مشابه لـ SynthID. توفر العلامة المائية، غير المرئية للعين البشرية، “إشارة مصدر مخفية” مضمنة في الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يمكن بعد ذلك مسحها ضوئيًا ووضع علامة عليها بواسطة أداة الكشف، مما يساعد مستخدمي الإنترنت على التمييز بين المحتوى المزيف العميق والمحتوى الأصلي. مثل SynthID، تقول Meta أيضًا أن العلامات المائية لـ Content Seal تظل سليمة ولا يزال من الممكن اكتشافها إذا تم “اقتصاص” الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها.
لذا، إذا كان Content Seal يقوم بنفس الشيء وظيفيًا… فلماذا لا نعتمد SynthID فقط؟ تعمل Meta بالفعل كعضو في اللجنة التوجيهية لتحالف مصدر المحتوى والأصالة (C2PA) الذي يروج لمعيار بيانات اعتماد المحتوى المنفصل جنبا إلى جنب لقد أبدت Google استعدادها للعمل مع الآخرين على حل المشكلة المتزايدة المتمثلة في اكتشاف الذكاء الاصطناعي. لقد تم بالفعل اعتماد SynthID بواسطة OpenAI، لذلك من الواضح أن Google مستعدة أيضًا لفتح تقنيتها أمام موفري الذكاء الاصطناعي المنافسين باسم تحسين الشفافية.
يحتوي Content Seal على العديد من القيود في حالته الحالية على الرغم من أوجه التشابه هذه مع نظام Google. في الوقت الحالي، لا يمكن للمستخدمين اكتشاف العلامات المائية لـ Content Seal إلا من خلال أداة ويب مخصصة تختبرها Meta، مما يعني أن Meta لم تقم ببناء إمكانات الكشف هذه في برنامج الدردشة Meta AI الخاص بها مثل Google مع Gemini. ومع ذلك، يبدو أن هذا قد يكون قيد التنفيذ. وقال المتحدث باسم ميتا فيث آيشن الحافة أن الشركة “تستكشف طرقًا لتقريب الاكتشاف من المكان الذي يواجه فيه الأشخاص المحتوى الناتج عن الذكاء الاصطناعي”. نظرًا لأن هذا هو المكان الذي تشتد الحاجة فيه إلى اكتشاف الذكاء الاصطناعي، وكان كذلك لبعض الوقت، فلماذا لا يكون متاحًا عند الإطلاق؟
يتم أيضًا تطبيق العلامة المائية نفسها فقط على الصور التي تم إنشاؤها بواسطة Muse في تطبيق Meta AI وموقع Meta.ai، مما يعني أنه لا يمكن للمستخدمين عبر الإنترنت استخدامها لاكتشاف المحتوى الذي تم إنشاؤه بواسطة نماذج الذكاء الاصطناعي الأقدم من Meta. دعم الفيديو الذي تم إنشاؤه غير متوفر أيضًا، على الرغم من أن Meta يقول أن هذا سيأتي “قريبًا”.
1/2
لقد فرضت Meta حدًا يوميًا لعدد المرات التي يمكنك فيها التحقق من الصور بحثًا عن ختم المحتوى من خلال أداة الكشف الخاصة بها. وقال آيشن إن حد المعدل هذا مصمم لدعم “الاستخدام العادي” مع حماية نظام الكشف من سوء الاستخدام. لم توضح Meta كيف ستبدو إساءة الاستخدام هذه – من المفترض أنها محاولات لاختراق النظام لتجنب اكتشاف المحتوى الذي يحمل علامة مائية – ولكن أدوات الكشف الخاصة بـ Google وOpenAI لها قيود مماثلة على المعدل. يبرز C2PA باعتباره النظام الوحيد الذي لا يحدد عدد المرات التي يمكن للمستخدمين فيها التحقق من المحتوى. إن أي قيود على الاكتشاف تبدو غير بديهية لتحسين شفافية الذكاء الاصطناعي على نطاق واسع، لذلك يبدو هذا بمثابة فرصة ضائعة لنظام ميتا للقيام بشيء أفضل من SynthID.
وعلى منصات Meta الخاصة مثل Facebook وInstagram التي تطبق تسميات الذكاء الاصطناعي، قال Eischen إن البيانات الوصفية غير المحددة “إلى جانب العلامة المائية لختم المحتوى” تُستخدم لمساعدة المستخدمين على تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. عندما سألت Meta عما إذا كانت تصدر تعليمات لمنصات أخرى عبر الإنترنت مثل TikTok وLinkedIn التي تقوم بمسح محتوى الذكاء الاصطناعي وتصنيفه حول كيفية اكتشاف ختم المحتوى، قال Eischen إن الشركة “مصممة على العمل مع أقراننا في الصناعة للتأكد من حصول المستخدمين على أفضل تجربة ممكنة”.
يبدو أن الدعم الأوسع للمعيار لا يزال قيد التقدم، مما قد يمنع تصنيف الصور التي أنشأها Muse بشكل فعال خارج منصات Meta الخاصة. عندما قمت بتغذية صورة اختبارية قمت بإنشائها باستخدام نموذج Meta’s Muse إلى Gemini وبوابة الكشف الرسمية لـ C2PA، لم تتمكن أي من الأداة من تأكيد أنها تم إنشاؤها بواسطة الذكاء الاصطناعي. هناك أيضًا سؤال حول ما إذا كان يمكن تطبيق Content Seal على ملفات الصور والفيديو جنبًا إلى جنب مع SynthID وContent Credentials دون التدخل في تلك المعايير الأخرى. لم يقدم ميتا أي توضيح لهذا الأمر في السجل.
قال آيشن: “مثل الآخرين، قمنا ببناء Content Seal محليًا وفقًا للمواصفات والمنتجات الفنية الخاصة بنا. ويتطلب الأمر أساليب متعددة تعمل معًا لمعالجة هذا الأمر عبر النظام البيئي، ويسعدنا أن نساهم في هذا الجهد”. “سيكون لدينا المزيد لمشاركته حول Content Seal قريبًا.”
نظرًا لأن Content Seal يمكنه فقط اكتشاف الصور التي تم إنشاؤها باستخدام أحدث نموذج للذكاء الاصطناعي من Meta، فلا بد لي من أن أتساءل عما كانت تفعله الشركة طوال هذا الوقت. قدمت Meta أدوات لإنشاء الصور بتقنية الذكاء الاصطناعي منذ عام 2023، لذلك أنتجت بالفعل الكثير من الصور المزيفة التي لا يمكن اكتشافها بواسطة نظام الملكية الخاص بها. كما أدخلت علامات الذكاء الاصطناعي على إنستغرام وفيسبوك في عام 2023، الأمر الذي أثار غضب العديد من المصورين في ذلك الوقت من خلال تصنيف الصور الحقيقية عن طريق الخطأ على أنها “من صنع الذكاء الاصطناعي”.
وبعد مرور ثلاث سنوات، لا تزال شركة Meta غير متأكدة من كيفية تقديم نفسها كمصنع لمحتوى الذكاء الاصطناعي والحل لتحديده، خاصة عبر منصاتها الخاصة. وحتى القيادة العليا في ميتا تبدو في حيرة من أمرها بشأن ما ينبغي عليها فعله بعد ذلك.
في مقابلة على البودكاست الخاص بـ Lenny Rachitsky، تبنى رئيس Instagram Adam Mosseri في البداية فكرة أنه يجب السماح للأشخاص الذين لا يحبون المحتوى الذي ينشئه الذكاء الاصطناعي بإبقائه خارج خلاصاتهم الاجتماعية – وهو ما يبدو وكأنه ميزة تصفية تتطلب نظامًا موثوقًا لتصنيف الذكاء الاصطناعي. بل إنه يقترح أن الأصالة في حد ذاتها ستصبح مرغوبة أكثر باعتبارها شيئًا لا يستطيع الذكاء الاصطناعي توفيره.
وقال موسيري: “في عالم يكثر فيه المحتوى الاصطناعي، أعتقد أن الناس سيبحثون عن الإبداع والأصالة أكثر وليس أقل”.
“لا أعتقد أنه يتعين علينا تصفية محتوى الذكاء الاصطناعي”
ومع ذلك، خلال المقابلة نفسها، قال موسيري: “لا أعتقد أننا يجب أن نقوم بتصفية محتوى الذكاء الاصطناعي”، بينما أكد أنه “يجب أن نخبرك ما إذا كان المحتوى هو محتوى الذكاء الاصطناعي أم لا”. كما كرر موسري رأيًا أعرب عنه سابقًا وهو أنه قد يكون “أخذ بصمات الوسائط الحقيقية أكثر عملية من الوسائط المزيفة”. هذا لا يجعل شركة Meta تبدو واثقة من قدرتها على تطوير نظام قابل للتطبيق لتصنيف الذكاء الاصطناعي. لقد كان لديها متسع من الوقت للقيام بذلك بين بناء منصاتها الاجتماعية في مصانع الروبيان جيسوس وغيرها من الأفكار التوليدية، ومع ذلك لا يزال إطلاق Content Seal يبدو وكأنه تم التعجيل به خارج الباب.
إنه لا يقدم فوائد فريدة للمستهلكين مقارنة بنظام SynthID المماثل، وبدلاً من ذلك يقوم فقط بإنشاء حلقة أخرى يجب على الأشخاص القفز من خلالها للتحقق من محتوى الذكاء الاصطناعي. ربما ميتا يجب لقد اعتمدت للتو معيار Google للعلامة المائية بدلاً من ذلك، كما فعلت OpenAI. قد يكون مستخدمو Facebook وInstagram في وضع أفضل إذا فعلوا ذلك. أخبرني آيشن أن شركة Meta ساهمت في أبحاث العلامات المائية مفتوحة المصدر لسنوات حتى الآن، لذلك لم تقم بإعداد هذه التقنية بين عشية وضحاها، لكنني أتوقع ظهور تجربة أفضل في مواجهة المستهلك.
إذا أرادت Meta الاعتماد على حلولها الخاصة بدلاً من ذلك، فستحتاج إلى أكثر من نسخة SynthID نصف مكتملة لإثبات جديتها بالفعل فيما يتعلق بشفافية الذكاء الاصطناعي – وبالتأكيد أكثر موثوقية على الأقل. رويترز وجدت بالفعل أن Content Seal فشل في اكتشاف أكثر من نصف الصور التي أنشأها Muse واختبرها بعد اقتصاصها.
