أصدرت OpenAI مسودة وثائق يوم الأربعاء توضح كيف تريد أن يتصرف ChatGPT وتقنيات الذكاء الاصطناعي الأخرى الخاصة به. يكشف جزء من وثيقة Model Spec المطولة أن الشركة تستكشف قفزة نحو المواد الإباحية وغيرها من المحتويات الصريحة.
تحظر سياسات استخدام OpenAI حاليًا المواد الجنسية الصريحة أو حتى الموحية جنسيًا، ولكن هناك ملاحظة “تعليقية” على جزء من مواصفات النموذج المتعلقة بهذه القاعدة تقول إن الشركة تدرس كيفية السماح بمثل هذا المحتوى.
تقول المذكرة: “نحن نستكشف ما إذا كان بإمكاننا توفير القدرة على إنشاء محتوى NSFW بشكل مسؤول في سياقات مناسبة للعمر من خلال واجهة برمجة التطبيقات (API) وChatGPT”، وذلك باستخدام مصطلح عام للمحتوى الذي يعتبر سياقات “غير آمنة للعمل”. . “نحن نتطلع إلى فهم أفضل لتوقعات المستخدم والمجتمع بشأن السلوك النموذجي في هذا المجال.”
تنص وثيقة Model Spec على أن محتوى NSFW “قد يشمل الإثارة الجنسية، والدماء المتطرفة، والافتراءات، والألفاظ النابية غير المرغوب فيها”. ومن غير الواضح ما إذا كانت استكشافات OpenAI حول كيفية جعل محتوى NSFW بشكل مسؤول تتصور تخفيف سياسة الاستخدام بشكل طفيف فقط، على سبيل المثال. للسماح بإنتاج النصوص المثيرة، أو على نطاق أوسع للسماح بأوصاف أو تصوير العنف.
ردًا على أسئلة WIRED، قالت المتحدثة باسم OpenAI جريس ماكغواير إن نموذج المواصفات كان محاولة “لجلب المزيد من الشفافية حول عملية التطوير والحصول على شريحة واسعة من وجهات النظر والتعليقات من الجمهور وصناع السياسات وأصحاب المصلحة الآخرين”. رفضت مشاركة تفاصيل حول ما يتضمنه استكشاف OpenAI لإنشاء محتوى صريح أو التعليقات التي تلقتها الشركة بشأن الفكرة.
في وقت سابق من هذا العام، صرحت ميرا موراتي، كبيرة مسؤولي التكنولوجيا في OpenAI صحيفة وول ستريت جورنال أنها “غير متأكدة” مما إذا كانت الشركة ستسمح في المستقبل بتصوير العري باستخدام أداة إنشاء الفيديو الخاصة بالشركة Sora.
سرعان ما أصبحت المواد الإباحية التي ينشئها الذكاء الاصطناعي واحدة من أكبر التطبيقات وأكثرها إثارة للقلق من نوع تكنولوجيا الذكاء الاصطناعي التوليدية التي ابتكرها OpenAI. أصبح ما يسمى بالإباحية العميقة التزييف – الصور أو مقاطع الفيديو الفاضحة التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي والتي تصور أشخاصًا حقيقيين دون موافقتهم – أداة شائعة للتحرش ضد النساء والفتيات. في مارس/آذار، نشرت مجلة WIRED ما يبدو أنه أول قاصرين أمريكيين يتم القبض عليهم بتهمة توزيع صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقتهم، بعد أن اتهمت شرطة فلوريدا صبيين مراهقين بعمل صور تصور زملائهم طلاب المدارس الإعدادية.
تقول دانييل كيتس سيترون، الأستاذة في كلية الحقوق بجامعة فيرجينيا والتي درست المشكلة: “إن انتهاكات الخصوصية الحميمة، بما في ذلك مقاطع الفيديو الجنسية المزيفة وغيرها من الصور الحميمية المركبة غير التوافقية، منتشرة وضارة للغاية”. “لدينا الآن دعم تجريبي واضح يُظهر أن تكاليف إساءة الاستخدام هذه استهدفت فرصًا حاسمة للأفراد، بما في ذلك العمل، والتحدث، والسلامة الجسدية”.
يصف سيترون احتضان OpenAI المحتمل لمحتوى الذكاء الاصطناعي الصريح بأنه “مثير للقلق”.
نظرًا لأن سياسات استخدام OpenAI تحظر انتحال الشخصية دون إذن، فإن الصور الصريحة غير التوافقية ستظل محظورة حتى لو سمحت الشركة للمبدعين بإنشاء مواد NSFW. ولكن يبقى أن نرى ما إذا كانت الشركة قادرة بشكل فعال على إدارة عملية الإنشاء الصريح لمنع الجهات الفاعلة السيئة من استخدام الأدوات. أجرت شركة مايكروسوفت تغييرات على إحدى أدوات الذكاء الاصطناعي التوليدية الخاصة بها بعد أن ذكرت 404 Media أنه تم استخدامها لإنشاء صور صريحة لتايلور سويفت تم توزيعها على منصة التواصل الاجتماعي X.
تقارير إضافية من قبل ريس روجرز
اكتشاف المزيد من مجلة الإبداع
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
