Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
، مقالات،

علينا أن نتوقف عن تجاهل مشكلة هلوسة الذكاء الاصطناعي


قدم Google I/O مساعدًا يعمل بالذكاء الاصطناعي يمكنه رؤية العالم وسماعه، بينما طرحت OpenAI نسختها من ها-مثل chatbot في iPhone. في الأسبوع المقبل، ستستضيف Microsoft برنامج Build، حيث من المؤكد أن يكون لديها إصدار ما من Copilot أو Cortana الذي يفهم الجداول المحورية. وبعد ذلك بأسابيع قليلة، ستستضيف شركة آبل مؤتمرها الخاص للمطورين، وإذا كان هناك أي ضجة كبيرة، فسوف يتحدث المؤتمر عن الذكاء الاصطناعي أيضًا. (ليس من الواضح ما إذا كان سيتم ذكر سيري.)

الذكاء الاصطناعي هنا! لم يعد الأمر مفاهيميًا. إنها تستولي على الوظائف، وتنشئ عددًا قليلًا من الوظائف الجديدة، وتساعد الملايين من الطلاب على تجنب أداء واجباتهم المدرسية. وفقًا لمعظم شركات التكنولوجيا الكبرى التي تستثمر في الذكاء الاصطناعي، نحن يبدو أننا في بداية تجربة واحدة من تلك التحولات الضخمة النادرة في التكنولوجيا. فكر في الثورة الصناعية أو إنشاء الإنترنت أو الكمبيوتر الشخصي. يركز كل وادي السيليكون – شركات التكنولوجيا الكبرى – على أخذ نماذج لغوية كبيرة وأشكال أخرى من الذكاء الاصطناعي ونقلها من أجهزة الكمبيوتر المحمولة الخاصة بالباحثين إلى الهواتف وأجهزة الكمبيوتر للأشخاص العاديين. من الناحية المثالية، سوف يكسبون الكثير من المال في هذه العملية.

لكن لا يمكنني حقًا الاهتمام بهذا الأمر لأن Meta AI تعتقد أن لدي لحية.

أريد أن أكون واضحا للغاية: أنا امرأة من رابطة الدول المستقلة وليس لدي لحية. ولكن إذا كتبت “أرني صورة Alex Cranz” في نافذة المطالبة، فسيقوم Meta AI حتمًا بإرجاع صور لرجال جميلين ذوي شعر داكن ولحى. أنا فقط بعض من تلك الأشياء!

Meta AI ليس الوحيد الذي يعاني من التفاصيل الدقيقة الحافةترويسة. أخبرني ChatGPT بالأمس أنني لا أعمل في الحافة. لم يكن الجوزاء من جوجل يعرف من أنا (عادل)، ولكن بعد أن أخبرني أن نيلاي باتل كان مؤسسًا الحافة, ثم اعتذر وصحّح نفسه قائلاً إنه لم يكن كذلك. (أؤكد لك أنه كان كذلك).

يستمر الذكاء الاصطناعي في الإخفاق لأن أجهزة الكمبيوتر هذه غبية. استثنائيون في قدراتهم ومذهلون في غباءهم. لا أستطيع أن أتحمس للتحول التالي في ثورة الذكاء الاصطناعي لأن هذا التحول هو مكان لا تستطيع فيه أجهزة الكمبيوتر الحفاظ على الدقة باستمرار حتى في الأشياء البسيطة.

أعني أنهم حتى أخطأوا أثناء الكلمة الرئيسية الكبيرة لـ Google حول الذكاء الاصطناعي في مؤتمر I/O. في إعلان تجاري لمحرك البحث الجديد المعتمد على الذكاء الاصطناعي من جوجل، سأل أحد الأشخاص عن كيفية إصلاح كاميرا فيلم محشورة، فاقترح عليهم “فتح الباب الخلفي وإزالة الفيلم بلطف”. هذه هي أسهل طريقة لتدمير أي صور قمت بالتقاطها بالفعل.

بعض هذه الاقتراحات جيدة! بعضها يتطلب غرفة مظلمة جدًا.
لقطة الشاشة: جوجل

العلاقة الصعبة بين الذكاء الاصطناعي والحقيقة تسمى “الهلوسة”. بعبارات بسيطة للغاية: هذه الآلات رائعة في اكتشاف أنماط المعلومات، ولكن في محاولتها لاستقراء وإنشاء المعلومات، فإنها تخطئ في بعض الأحيان. إنهم “يهلوسون” فعليًا بواقع جديد، وهذا الواقع الجديد غالبًا ما يكون خاطئًا. إنها مشكلة صعبة، وكل شخص يعمل في مجال الذكاء الاصطناعي في الوقت الحالي يدرك ذلك.

ادعى أحد الباحثين السابقين في Google أنه يمكن إصلاح هذه المشكلة خلال العام المقبل (رغم أنه أعرب عن أسفه لهذه النتيجة)، ولدى Microsoft أداة لبعض مستخدميها من المفترض أن تساعد في اكتشافهم. وقالت ليز ريد، رئيسة قسم البحث في جوجل: الحافة إنها تدرك التحدي أيضًا. “هناك توازن بين الإبداع والواقعية” مع أي نموذج لغوي، قالت لزميلي ديفيد بيرس. “سوف نقوم حقًا بتحريف الأمر نحو الجانب الواقعي.”

لكن لاحظ كيف قال ريد أن هناك توازنًا؟ وذلك لأن الكثير من الباحثين في مجال الذكاء الاصطناعي لا يعتقدون في الواقع بالهلوسة يمكن ان يكون تم حلها. اقترحت دراسة أجريت في جامعة سنغافورة الوطنية أن الهلوسة هي نتيجة حتمية لجميع النماذج اللغوية الكبيرة. فكما لا يوجد شخص على حق بنسبة 100% طوال الوقت، كذلك الأمر بالنسبة لأجهزة الكمبيوتر هذه.

وربما لهذا السبب يعتقد معظم اللاعبين الرئيسيين في هذا المجال – أولئك الذين لديهم موارد حقيقية وحوافز مالية تجعلنا جميعًا نتبنى الذكاء الاصطناعي – أنه لا ينبغي عليك القلق بشأن ذلك. أثناء الكلمة الرئيسية لـ IO من Google، أضافت، بخط رمادي صغير، عبارة “تحقق من الردود للتأكد من دقتها” على الشاشة الموجودة أسفل كل أداة ذكاء اصطناعي جديدة تقريبًا عرضتها – وهو تذكير مفيد بأن أدواتها لا يمكن الوثوق بها، ولكنها أيضًا لا لا أعتقد أنها مشكلة. يعمل ChatGPT بالمثل. مكتوب بخط صغير أسفل نافذة المطالبة مباشرةً، “يمكن أن يرتكب ChatGPT أخطاء. تحقق من المعلومات المهمة.”

إذا قمت بالحول، يمكنك رؤية الكشف الصغير والمائل.
لقطة الشاشة: جوجل

هذا ليس إخلاء المسؤولية الذي تريد رؤيته من الأدوات التي من المفترض أن تغير حياتنا بأكملها في المستقبل القريب جدًا! ويبدو أن الأشخاص الذين يصنعون هذه الأدوات لا يهتمون كثيرًا بإصلاح المشكلة بما يتجاوز التحذير البسيط.

سام ألتمان، الرئيس التنفيذي لشركة OpenAI والذي تم إقالته لفترة وجيزة بسبب إعطاء الأولوية للربح على السلامة، ذهب إلى أبعد من ذلك وقال إن أي شخص لديه مشكلة في دقة الذكاء الاصطناعي كان ساذجًا. “إذا فعلت الشيء الساذج وقلت: “لا تقل أبدًا أي شيء لست متأكدًا منه بنسبة 100 بالمائة”، فيمكنك إقناعهم جميعًا بفعل ذلك. وقال أمام حشد من الناس في مؤتمر Dreamforce التابع لشركة Salesforce العام الماضي: “لكنها لن تتمتع بالسحر الذي يحبه الناس كثيرًا”.

هذه الفكرة القائلة بوجود نوع من الخلطة السحرية غير القابلة للقياس في الذكاء الاصطناعي والتي ستسمح لنا بالتسامح مع علاقته الهشة مع الواقع، تم طرحها كثيرًا من قبل الأشخاص الذين يتوقون إلى التخلص من المخاوف المتعلقة بالدقة. لقد رفضت شركات Google وOpenAI وMicrosoft والعديد من مطوري وباحثي الذكاء الاصطناعي الآخرين الهلوسة باعتبارها إزعاجًا صغيرًا يجب التسامح معه لأنهم في طريقهم إلى إنشاء كائنات رقمية قد تجعل حياتنا أسهل.

لكن أعتذر لسام وكل من تم تحفيزه ماليًا لإثارة حماستي بشأن الذكاء الاصطناعي. أنا لا ألجأ إلى أجهزة الكمبيوتر بسبب السحر غير الدقيق للوعي البشري. لقد أتيت إليهم لأنهم دقيقون للغاية عندما لا يكون البشر كذلك. لا أحتاج إلى أن يكون جهاز الكمبيوتر الخاص بي صديقي؛ أحتاجه لأحدد جنساني بشكل صحيح عندما أسأل، ويساعدني على عدم كشف الفيلم عن طريق الخطأ عند إصلاح كاميرا معطلة. أفترض أن المحامين يرغبون في الحصول على السوابق القضائية الصحيحة.

أنا يفهم من أين يأتي سام التمان وغيره من دعاة الذكاء الاصطناعي. هناك إمكانية في المستقبل البعيد لخلق وعي رقمي حقيقي من الآحاد والأصفار. في الوقت الحالي، يسير تطور الذكاء الاصطناعي بسرعة مذهلة تجعل العديد من الثورات التكنولوجية السابقة في حالة من الخجل. هناك سحر حقيقي يعمل في وادي السيليكون في الوقت الحالي.

لكن الذكاء الاصطناعي يعتقد أن لدي لحية. لا يمكنها دائمًا اكتشاف أبسط المهام، ومع ذلك، يتم فرضها علينا مع توقع أننا نحتفل بالمستوى المتوسط ​​المذهل للخدمات التي تقدمها أنظمة الذكاء الاصطناعي هذه. في حين أنني أستطيع بالتأكيد أن أتعجب من الابتكارات التكنولوجية التي تحدث، إلا أنني أود ألا تضحي أجهزة الكمبيوتر الخاصة بي بالدقة فقط حتى يكون لدي صورة رمزية رقمية لأتحدث إليها. هذه ليست عملية تبادل عادلة، إنها فقط مثيرة للاهتمام.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى