أضافت OpenAI أداة جديدة لاكتشاف ما إذا كانت الصورة قد تم إنشاؤها باستخدام منشئ الصور DALL-E AI أم لا طرق جديدة لوضع العلامات المائية لتحديد المحتوى الذي تنشئه بشكل أكثر وضوحًا.
في منشور بالمدونة، أعلنت OpenAI أنها بدأت في تطوير طرق مصدر جديدة لتتبع المحتوى وإثبات ما إذا كان قد تم إنشاؤه بواسطة الذكاء الاصطناعي. يتضمن ذلك مصنفًا جديدًا للكشف عن الصور يستخدم الذكاء الاصطناعي لتحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي، بالإضافة إلى علامة مائية مقاومة للتلاعب يمكنها وضع علامة على محتوى مثل الصوت بإشارات غير مرئية.
يتنبأ المصنف باحتمالية إنشاء الصورة بواسطة DALL-E 3. وتدعي OpenAI أن المصنف يعمل حتى إذا تم اقتصاص الصورة أو ضغطها أو تغيير التشبع. في حين أن الأداة يمكنها اكتشاف ما إذا كانت الصور قد تم التقاطها باستخدام DALL-E 3 بدقة تبلغ حوالي 98 بالمائة، فإن أدائها في معرفة ما إذا كان المحتوى من نماذج الذكاء الاصطناعي الأخرى ليس جيدًا، حيث يتم تمييز 5 إلى 10 بالمائة فقط من الصور من مولدات الصور الأخرى ، مثل رحلة منتصف الليل.
قامت OpenAI مسبقًا بإضافة بيانات اعتماد المحتوى إلى البيانات الوصفية للصورة من تحالف مصدر المحتوى وسلطته (C2PA). تعد بيانات اعتماد المحتوى علامات مائية تتضمن معلومات حول من يملك الصورة وكيفية إنشائها. OpenAI، إلى جانب شركات مثل Microsoft وAdobe، هي عضو في C2PA. وفي هذا الشهر، انضمت OpenAI أيضًا إلى اللجنة التوجيهية لـ C2PA.
لا يزال يتم تحسين كل من مصنف الصور وإشارة العلامة المائية الصوتية. تقول OpenAI إنها تحتاج إلى الحصول على تعليقات من المستخدمين لاختبار فعاليتها. يمكن للباحثين والمجموعات الصحفية غير الربحية اختبار مصنف اكتشاف الصور من خلال تطبيقه على منصة الوصول إلى الأبحاث الخاصة بـ OpenAI.
تعمل OpenAI على اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لسنوات. ومع ذلك، في عام 2023، اضطرت إلى إنهاء برنامج حاول التعرف على النص المكتوب بواسطة الذكاء الاصطناعي لأن مصنف نص الذكاء الاصطناعي كان يتمتع دائمًا بدقة منخفضة.
اكتشاف المزيد من مجلة الإبداع
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
