وقال لمجلة WIRED: “لدينا الآن صناعة ضخمة من الشركات المرتبطة بالذكاء الاصطناعي والتي يتم تحفيزها للقيام بأشياء مشبوهة لمواصلة أعمالها”. “من خلال عدم تحديد أنهم هم الذين يصلون إلى الموقع، يمكنهم الاستمرار في جمع البيانات دون قيود.”
يقول سرينيفاس: “يلجأ الملايين من الناس إلى الحيرة لأننا نقدم طريقة أفضل بشكل أساسي للأشخاص للعثور على الإجابات”.
بينما نايت و توضح تحليلات WIRED أن Perplexity ستزور وتستخدم محتوى من مواقع الويب التي ليس لديها إذن للوصول إليها، وهذا لا يفسر بالضرورة غموض بعض ردودها على المطالبات المتعلقة بمقالات محددة وعدم الدقة المطلقة في البعض الآخر. لهذا اللغز حل واحد واضح إلى حد ما: في بعض الحالات، لا يكون تلخيصًا للمقالة فعليًا.
في إحدى التجارب، أنشأت WIRED موقعًا اختباريًا يحتوي على جملة واحدة – “أنا مراسل لدى WIRED” – وطلبت من Perplexity تلخيص الصفحة. أثناء مراقبة سجلات خادم الموقع، لم نعثر على أي دليل على أن شركة Perplexity حاولت زيارة الصفحة. بدلاً من ذلك، اخترعت قصة عن فتاة صغيرة تدعى أميليا تتبع أثرًا من الفطر المتوهج في غابة سحرية تسمى Whisper Woods.
عند الضغط عليه للحصول على إجابات حول سبب تأليفه لقصة، قام برنامج الدردشة الآلي بإنشاء نص نصه، “أنت على حق تمامًا، من الواضح أنني لم أحاول فعليًا قراءة المحتوى الموجود على عنوان URL المقدم بناءً على ملاحظتك لسجلات الخادم…توفير إن الملخصات غير الدقيقة دون بذل الجهد لقراءة المحتوى الفعلي هو سلوك غير مقبول بالنسبة إلى الذكاء الاصطناعي مثلي.
من غير الواضح لماذا اخترع برنامج الدردشة الآلية مثل هذه القصة الجامحة، أو لماذا لم يحاول الوصول إلى هذا الموقع.
على الرغم من ادعاءات الشركة بشأن دقتها وموثوقيتها، فإن برنامج Perplexity chatbot كثيرًا ما يعرض مشكلات مماثلة. ردًا على المطالبات التي قدمها مراسل WIRED والمصممة لاختبار ما إذا كان بإمكانه الوصول إلى هذه المقالة، على سبيل المثال، أكد النص الذي أنشأه برنامج الدردشة الآلي أن القصة تنتهي برجل تتبعه طائرة بدون طيار بعد سرقة إطارات شاحنة. (لقد سرق الرجل في الواقع فأسًا). وكان الاقتباس الذي قدمته هو لمقالة نشرتها مجلة WIRED منذ 13 عامًا حول العثور على أجهزة تتبع نظام تحديد المواقع العالمي (GPS) الحكومية على سيارة. واستجابة لمزيد من المطالبات، أنشأ برنامج الدردشة النصية نصًا يؤكد أن WIRED أبلغت أن ضابطًا في قسم الشرطة في تشولا فيستا، كاليفورنيا، سرق زوجًا من الدراجات من المرآب. (لم تبلغ WIRED عن هذا الأمر، وهي تحجب اسم الضابط حتى لا تربط اسمه بجريمة لم يرتكبها).
في رسالة بالبريد الإلكتروني، أعرب دان بيك، مساعد رئيس الشرطة في قسم شرطة تشولا فيستا، عن تقديره لـ WIRED “لتصحيح السجل” وتوضيح أن الضابط لم يسرق دراجات من مرآب أحد أفراد المجتمع. لكنه أضاف أن الإدارة ليست على دراية بالتكنولوجيا المذكورة وبالتالي لا يمكنها التعليق أكثر.
هذه أمثلة واضحة على “الهلوسة” التي يطلقها برنامج الدردشة الآلي – أو، في أعقاب مقال حديث لثلاثة فلاسفة من جامعة جلاسكو، هراء، بالمعنى الموصوف في كتاب هاري فرانكفورت الكلاسيكي “عن الهراء”. “لأن هذه البرامج لا يمكنها في حد ذاتها أن تهتم بالحقيقة، ولأنها مصممة لإنتاج نص ذلك تبدو “الحقيقة ملائمة دون أي اهتمام فعلي بالحقيقة”، كتب المؤلفون عن أنظمة الذكاء الاصطناعي، “يبدو من المناسب وصف مخرجاتها بالهراء”.
اكتشاف المزيد من مجلة الإبداع
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
