یک ضعف نگرانکننده در «چککنندههای علائم» مبتنی بر هوش مصنوعی
به گزارش آذرنگارنده مطالعهای جدید نشان میدهد یکی از مشکلات مهم سامانههای هوش مصنوعی برای بررسی علائم بیماری، نه فقط به خود فناوری، بلکه به نحوه تعامل کاربران با آن برمیگردد. به گفته پژوهشگران، افراد هنگام صحبت با هوش مصنوعی، معمولا علائم خود را کمتر و مبهمتر توضیح میدهند؛ موضوعی که میتواند دقت ارزیابی پزشکی […]
به گزارش آذرنگارنده
مطالعهای جدید نشان میدهد یکی از مشکلات مهم سامانههای هوش مصنوعی برای بررسی علائم بیماری، نه فقط به خود فناوری، بلکه به نحوه تعامل کاربران با آن برمیگردد. به گفته پژوهشگران، افراد هنگام صحبت با هوش مصنوعی، معمولا علائم خود را کمتر و مبهمتر توضیح میدهند؛ موضوعی که میتواند دقت ارزیابی پزشکی را کاهش دهد.
این پژوهش که در نشریه Nature Health منتشر شده، به سرپرستی محققان دانشگاه وورتسبورگ انجام شده است. در این مطالعه، ۵۰۰ نفر باید گزارشهایی شبیهسازیشده درباره دو وضعیت رایج، یعنی سردرد غیرعادی و علائم شبیه آنفلوآنزا، مینوشتند. به برخی از آنها گفته شد گزارششان توسط یک پزشک بررسی میشود و به برخی دیگر گفته شد مخاطب آنها یک چتبات هوش مصنوعی است.
گزارشهای کوتاهتر برای هوش مصنوعی
نتایج نشان داد زمانی که شرکتکنندگان تصور میکردند با هوش مصنوعی در ارتباط هستند، توضیحاتشان برای ارزیابی پزشکی کمفایدهتر میشد. بهطور میانگین، گزارشهایی که برای پزشک نوشته شده بود ۲۵۵.۶ کاراکتر داشت، در حالی که این عدد برای چتباتها ۲۲۸.۷ کاراکتر بود.
هرچند این اختلاف در ظاهر کوچک به نظر میرسد، اما محققان میگویند حذف همین جزئیات میتواند باعث شود سامانههای هوش مصنوعی به نتیجهگیری نادرست برسند؛ زیرا این ابزارها تنها زمانی ارزیابی قابل اعتماد ارائه میکنند که اطلاعات کامل و دقیق دریافت کنند.
چرا کاربران کمتر توضیح میدهند؟
پژوهشگران یکی از دلایل این موضوع را پدیدهای با عنوان «نادیده گرفتن یکتایی فرد» میدانند. به بیان ساده، بسیاری از افراد تصور میکنند هوش مصنوعی نمیتواند شرایط خاص و منحصربهفرد آنها را بهدرستی درک کند و فقط بر اساس الگوهای کلی تصمیم میگیرد. نگرانی درباره حریم خصوصی و تردید نسبت به تشخیصهای الگوریتمی نیز ممکن است باعث شود افراد بخشی از اطلاعات مهم خود را بیان نکنند.
راهکار چیست؟
به گفته پژوهشگران، صرفا پیشرفتهتر شدن فناوری مشکل را حل نمیکند. آنها پیشنهاد میکنند طراحی این سامانهها باید بهگونهای باشد که کاربران را به ارائه توضیحات دقیقتر تشویق کند. از جمله راهکارهای پیشنهادی، ارائه نمونههای روشن از شرح حال کامل و همچنین طرح پرسشهای تکمیلی از سوی سیستم در صورت ناقص بودن اطلاعات است.
محققان معتقدند بهبود کیفیت گزارش علائم میتواند هم از تشخیصهای اشتباه بکاهد و هم بخشی از فشار موجود بر سیستمهای درمانی را کاهش دهد.
منبع:
مقاله Reduced symptom reporting quality during human–chatbot versus human–physician interactions
منتشرشده در Nature Health، ۱ مه ۲۰۲۶
DOI: ۱۰.۱۰۳۸/s44360-026-00116-y