به نقل از دیجیاتو، اگر شما هم جزو میلیون ها نفری هستید که برای تشخیص بیماری خود به سراغ ChatGPT یا سایر چت بات ها می روید، بهتر است دست نگه دارید. مطالعه جدید محققان دانشگاه آکسفورد نشان می دهد که اعتماد به هوش مصنوعی برای تصمیم گیری های پزشکی می تواند عواقب خطرناکی داشته باشد.

براساس گزارش BBC، محققان دانشگاه آکسفورد می گویند مدل های هوش مصنوعی در زمینه پزشکی پاسخ های ناسازگار و گاهی نادرست می دهند. دکتر ربکا پین ، پزشک ارشد این مطالعه، هشدار می دهد که پرسیدن علائم بیماری از چت بات ها می تواند خطرناک باشد.

در این پژوهش که روی 1300 نفر انجام شد، شرکت کنندگان در سناریوهای مختلف (مانند سردرد شدید یا خستگی مداوم پس از زایمان) قرار گرفتند. نتایج نشان داد افرادی که از هوش مصنوعی استفاده کردند، تصمیمات بهتری نسبت به کسانی که از روش های سنتی (مانند جستجو در گوگل) استفاده می کردند، نگرفتند.

مشکل اصلی اینجاست که هوش مصنوعی ممکن است سه تشخیص مختلف ارائه دهد و کاربر را در حدس زدن گزینه صحیح تنها بگذارد. دکتر آدام مهدی توضیح می دهد: مردم اطلاعات را به صورت تدریجی به چت بات می دهند و همه چیز را نمی گویند؛ دقیقاً همین جاست که کار خراب می شود.

در این مطالعه پژوهشگران متوجه یک شکست ارتباطی دوطرفه بین کاربر و هوش مصنوعی شدند. کاربران نمی دانستند هوش مصنوعی برای ارائه مشاوره دقیق به چه جزییاتی نیاز دارد. از سوی دیگر، پاسخ های هوش مصنوعی به شدت به نحوه جمله بندی سؤال وابسته بود. محققان می گویند: این تحلیل نشان داد که تعامل با انسان ها حتی برای مدل های هوش مصنوعی پیشرفته هم یک چالش بزرگ است.

برخلاف تست های استاندارد پزشکی که هوش مصنوعی در آنها نمره قبولی می گیرد، در دنیای واقعی و در تعامل با افراد غیرمتخصص، این سیستم ها دچار لغزش می شوند. بنابراین، تکیه بر آنها برای تصمیم گیری درباره مراجعه به پزشک عمومی یا اورژانس، ریسک بالایی دارد.

دکتر امبر چایلدز (Amber W. Childs) از دانشگاه ییل اشاره می کند که چون چت بات ها با داده های فعلی پزشکی آموزش دیده اند، همان سوگیری ها و تعصباتی را که دهه ها در پزشکی وجود داشته است، تکرار می کنند. او می گوید: یک چت بات فقط به اندازه پزشکان باتجربه ای که داده هایش را تولید کرده اند خوب است، که آن هم کامل نیست.

البته برخی از کارشناسان نیز معتقدند که نسخه ‎های تخصصی پزشکی که اخیراً توسط شرکت هایی مانند OpenAI و آنتروپیک عرضه شده اند، ممکن است نتایج متفاوتی داشته باشند. هدف باید بهبود تکنولوژی با قوانین نظارتی شفاف و گاردریل های پزشکی باشد تا امنیت بیماران تضمین شود.