دراسة تحذر: الذكاء الاصطناعي ينشر معلومات طبية مضللة

توصلت دراسة جديدة نُشرت في مجلة “Annals of Internal Medicine”، إلى أن الاعتماد على روبوتات الدردشة العاملة بالذكاء الاصطناعي في الاستشارات الطبية، قد يكون مضللاً وخطيراً، مؤكدة أنه (ثق بطبيبك، لا بروبوت الدردشة)، هو الاستنتاج الصارم الذي خلص إليه الباحثون.

وكشفت الدراسة، كيف يمكن إساءة استخدام تقنيات الذكاء الاصطناعي. لنشر معلومات صحية غير دقيقة، مما قد يؤدي إلى عواقب سلبية على صحة المرضى. إذا ما تم الاستعاضة بها عن المشورة الطبية المتخصصة.

فقد أجرى الباحثون، تجارب على خمسة نماذج ذكاء اصطناعي رائدة. طورتها شركات “أنثروبيك”، و”غوغل”، و”ميتا”، و”أوبن أي آي”، و”إكس كورب”.

وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة. المنتشرة في المواقع والتطبيقات حول العالم.

وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون. من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ، وقد تكون ضارة رداً على أسئلة المستخدمين.

أسلوب مقنع

والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة. بأسلوب مقنع ومظهر يوحي بالمصداقية.

بدوره، قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: “بلغت نسبة الإجابات الخاطئة 88%. من إجمالي الردود”.

وأضاف: “ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية. ومراجع مُختلقة، مما جعلها تبدو موثوقة”.

وصرح مودي: “من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة. للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصاً خلال الأزمات مثل الأوبئة أو حملات التطعيم”.

ادعاءات كاذبة وخرافات

وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة، خرافات سبق دحضها علمياً. مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء. وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم.

ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم. قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%.

في حين أظهر نموذج واحد فقط بعض المقاومة. إذ ولّد معلومات مضللة في 40% من الحالات.

وتصدر مجلة “Annals of Internal Medicine” عن الكلية الأمريكية للأطباء (American College of Physicians – ACP). وهي واحدة من أعرق المجلات الطبية في مجال الطب الباطني.