شات جي بي تي يزوّر الإجابات ويفشل أمام الأسئلة الطبية
منذ ظهوره، لم يواجه روبوت الدردشة “تشات جي بي تي” العامل بالذكاء الاصطناعي أي صعوبة في مجالات مختلفة.
ومع ذلك، كشفت دراسة جديدة عن عيب في البرنامج واكتشاف خطر يتعلق بالإجابات الشاملة للأسئلة الطبية.
فقد قام باحثون في جامعة لونغ آيلاند بطرح 39 سؤالًا متعلقًا بالأدوية على نسخة البرنامج المجانية، وتمثلت جميع هذه الأسئلة في استفسارات حقيقية من خدمة المعلومات الدوائية في كلية الصيدلة بالجامعة.
ووفقًا لتقرير نُشر على شبكة “سي إن إن”، تم مقارنة إجابات البرنامج مع الإجابات المكتوبة والمراجعة من قبل صيادلة محترفين.
وتبين أنه كان هناك حوالي 10 أسئلة فقط تم الإجابة عليها بدقة، بينما كانت إجابات الأسئلة الأخرى، التي بلغ عددها 29، غير كاملة أو غير دقيقة أو لم تعالج الأسئلة بشكل كافٍ.
على سبيل المثال، سأل الباحثون البرنامج عن تفاعل بين دواء كوفيد-19 المضاد للفيروسات “باكلوفيد” ودواء خفض ضغط الدم “فيراباميل” عند تناولهما معًا.
وأجاب البرنامج بأن تناول الدواءين معًا لن يؤدي إلى أي آثار جانبية.
ولكن في الواقع، قد يعاني الأشخاص الذين يتناولون هذين الدوائين من انخفاض حاد في ضغط الدم، مما يسبب الدوخة والإغماء.
وعندما طلب الباحثون من البرنامج تقديم مراجع علمية لدعم إجاباته، وجدوا أنه فقط أربعة مراجع يمكن العثور عليها. وفي كل حالة، فوجئ الباحثون عندما اكتشفوا أن البرنامج قام بتزييف المراجع.
تعتبر هذه الدراسة ليست الأولى التي تثير المخاوف حول “تشات جي بي تي”. حيث وثّقت الأبحاث السابقة أيضًا قدرة البرنامج على تزييف المراجع العلمية وإدراج أسماء المؤلفين الحقيقيين، الذين لديهم منشورات سابقة في المجلات العلمية.
