ما هي عيوب محتوى برنامج ChatGPT؟

ما هو برنامج ChatGPT؟

مع تطور الذكاء الاصطناعي، تحاول الشركات مواكبة هذا التطور بخلق برامج جديدة لاستغلال الذكاء الاصطناعي بشكل إيجابي.

وأخر هذه التطورات كانت البرنامج الجديد ChatGPT – شات جي بي تي وهو اختصار لـ Chat Generative Pretrained Transformer 3. وهو برنامج لمعالجة اللغة يتفاعل مع المستخدم من خلال الحوار كتابةً على الموقع الإلكتروني الخاص به.

أطلق البرنامج في نوفمبر 2022 ويعمل وفق آلية “تعلم الآلة”.

البرنامج من إنتاج شركة (أوبن أيه آي OpenAI) التي تأسست عام 2015 بمشاركة كل من إيلون ماسك وجريج بروكمان وإيليا سوتسكيفر ووجسيخ زاريمبا وسام التمان. والبرنامج هو أحدث نماذج تعلم الآلة وقد تم إنشاؤه على رأس عائلة نماذج روبوتات المحادثة وتعلم اللغات والمسماة ( OpenAI’s GPT-3)، ويخضع لإشراف دقيق للغاية لتطوير اللغة التي يستجيب بها لطلبات المستخدمين من خلال ما يسمى بتقنيات التعلم التعزيزي (reinforcement learning techniques) أو التعلم المعزز من ردود الفعل البشرية (RLHF).

وتقول شركة OpenAI على موقعها “لقد قمنا بتدريب نموذج يسمى ChatGPT وهو يتفاعل بطريقة المحادثة. يتيح الحوار معه الإجابة على أسئلة المتابعين والاعتراف بأخطائه ورفض الطلبات غير الملائمة، وهو نموذج شقيق لبرنامج الذكاء الاصطناعي InstructGPT”. ويعتبر البرنامج حالياً أشهر نماذج الذكاء الاصطناعي لمعالجة اللغة على الإنترنت.

ما هي عيوب ChatGPT؟

ينتج ChatGPT محتوى شامل ودقيق بشكل معقول.

لكن الباحثين والفنانين والأساتذة يحذرون من أوجه القصور التي يجب أن تكون على دراية بها والتي تؤدي إلى تقليل جودة المحتوى.

لذلك لنتعرف على عيوب البرنامج معاً:

لا يستطيع استخدام مصطلحات عامية

اكتشف الباحثون الذين يدرسون كيفية اكتشاف المحتوى الذي تم إنشاؤه آليًا أنماطًا تجعله يبدو غير طبيعي.

إحدى هذه المراوغات هي كيف يصارع الذكاء الاصطناعي مع المصطلحات العامية والعبارات.

يمكن أن يكون نقص المصطلحات داخل جزء من المحتوى إشارة إلى أن المحتوى تم إنشاؤه آليًا – ويمكن أن يكون هذا جزءًا من خوارزمية الكشف.

يساهم عدم القدرة على استخدام أو فهم المصطلحات في اكتشاف إنك تتحدث مع روبوت.

ChatGPT يفتقر إلى القدرة على التعبير

علق أحد الفنانين على كيفية محاكاة ناتج البرنامج لأحد اساسيات الفن، وهو إفتقاره إلى الصفات الفعلية للتعبير الفني.

التعبير هو فعل توصيل الأفكار أو المشاعر.

لا يحتوي إخراج ChatGPT على تعبيرات، بل كلمات فقط.

لا يمكن أن ينتج محتوى يلامس الناس عاطفياً بنفس مستوى قدرة الإنسان – لأنه لا يحتوي على أفكار أو مشاعر فعلية.

لا ينتج ChatGPT رؤية مختلفة

نقل مقال نُشر في The Insider عن أكاديمي أشار إلى أن المقالات الأكاديمية التي تم إنشاؤها بواسطة البرنامج تفتقر إلى رؤى حول الموضوع.

يلخص ChatGPT الموضوع ولكنه لا يقدم رؤية فريدة للموضوع.

يبدع البشر من خلال المعرفة، ولكن أيضًا من خلال تجربتهم الشخصية وتصوراتهم الذاتية.

نقلت The Insider عن البروفيسور كريستوفر بارتل من جامعة ولاية أبالاتشيان قوله إنه في حين أن مقال كتبه البرنامج قد يُظهر صفات نحوية عالية وأفكارًا متطورة، إلا أنه لا يزال يفتقر إلى البصيرة.

البصيرة هي السمة المميزة للمقال الذي تم إجراؤه جيدًا وهو شيء لا يجيده البرنامج بشكل خاص.

هذا النقص في البصيرة أمر يجب مراعاته عند تقييم المحتوى الذي تم إنشاؤه آليًا.

ChatGPT يكذب أو “يهلوس الحقائق”

أشارت ورقة البحثية تحت عنوان “ما مدى قرب ChatGPT من الخبراء البشريين؟”، إلى أن ChatGPT لديه ميل للكذب.

وجاء فيها:

“عند الإجابة على سؤال يتطلب معرفة مهنية من مجال معين، قد تختلق ChatGPT حقائق من أجل إعطاء إجابة… على سبيل المثال، في المسائل القانونية، قد تخترع ChatGPT بعض الأحكام القانونية غير الموجودة للإجابة على السؤال.

بالإضافة إلى ذلك، عندما يطرح المستخدم سؤالاً ليس له إجابة حالية، قد يقوم ChatGPT أيضًا باختلاق الحقائق من أجل تقديم إجابة “.

وثق موقع Futurism على الويب حالات كان فيها المحتوى الذي تم إنشاؤه آليًا والمنشور على CNET خاطئًا ومليئًا بـ “الأخطاء الغبية”.

تتمثل إحدى مشكلات المراجعة البشرية في أن محتوى البرنامج مصمم ليبدو صحيحًا بشكل مقنع، مما قد يخدع المراجع الذي ليس خبيرًا في الموضوع.

ChatGPT لا يزال في طور التدريب

لا يزال ChatGPT حاليًا في طور التدريب والتحسين.

توصي شركة OpenAI بضرورة مراجعة كل المحتوى الذي تم إنشاؤه بواسطة البرنامج بواسطة شخص، مع إدراج ذلك على أنه من أفضل الممارسات.

“حيثما كان ذلك ممكنًا نوصي بإجراء مراجعة بشرية، هذا مهم بشكل خاص في المجالات عالية المخاطر، ولإنشاء الكود.

يجب أن يكون البشر على دراية بقيود النظام، وأن يكون لديهم إمكانية الوصول إلى أي معلومات مطلوبة للتحقق من المخرجات من البرنامج (على سبيل المثال، إذا كان التطبيق يلخص الملاحظات، فيجب أن يكون لدى الإنسان وصول سهل إلى الملاحظات الأصلية للرجوع إليها). “

من الواضح أن هناك العديد من المشكلات المتعلقة بـ ChatGPT والتي تجعله غير مناسب لإنشاء المحتوى غير الخاضع للإشراف. يحتوي على تحيزات ويفشل في إنشاء محتوى يبدو طبيعيًا أو يحتوي على رؤى حقيقية.

علاوة على ذلك، فإن عدم قدرته على الشعور بالأفكار الأصلية أو تأليفها يجعله خيارًا سيئًا لتوليد التعبيرات الفنية.

يجب على المستخدمين تطبيق مطالبات مفصلة من أجل إنشاء محتوى أفضل من المحتوى الافتراضي الذي يميل إلى إنتاجه.

أخيرًا، لا تكفي دائمًا المراجعة البشرية للمحتوى الذي تم إنشاؤه آليًا، لأن محتوى ChatGPT مصمم ليظهر بشكل صحيح، حتى عندما لا يكون كذلك.

وهذا يعني أنه من المهم أن يكون المراجعون خبراء في الموضوع يمكنهم التمييز بين المحتوى الصحيح والمحتوى غير الصحيح حول موضوع معين.