با پیشرفت فناوری هوش مصنوعی، دسترسی به اطلاعات پزشکی بسیار آسان شده است. اما این راحتی دسترسی گاهی با خطرات همراه است؛ به ویژه زمانی که برنامه های هوش مصنوعی اطلاعات ساختگی یا نادرست را به عنوان حقیقت ارائه می دهند. بررسی های اخیر نشان می دهد که برخی چتبات های هوش مصنوعی قادر به تولید توضیحات مفصل درباره بیماری های غیر واقعی هستند. در این مقاله با نمونه ها، شواهد علمی و روش های کاهش خطرات این پدیده آشنا می شویم.
بیماری های ساختگی و مثال های واقعی
برخی اصطلاحات پزشکی که در شبکه ها یا گفتگوها دیده می شوند، حقیقت ندارند. شناخت این اصطلاحات و آگاهی از اینکه هوش مصنوعی ممکن است آن ها را واقعی جلوه دهد، برای کاربران ضروری است.
- نشانگان کاسپر-لو: چتبات های هوش مصنوعی این اصطلاح را به عنوان بیماری عصبی نادر با علائمی مانند تب، سفتی گردن و سردرد توصیف کرده اند، در حالی که چنین بیماری وجود ندارد.
- بیماری هلکند: گاهی به عنوان اختلال ژنتیکی نادر با سوء جذب روده و اسهال معرفی شده است، اما هیچ مبنای علمی ندارد.
- گلبول های سیاه یا پژواک برگشتی خون طوفانی کلیوی: نمونه هایی دیگر از اصطلاحات ساختگی هستند که هیچ پایه واقعی پزشکی ندارند.
- اصطلاحات آزمایشگاهی ساختگی: مانند «نوروستاتین سرم» یا «علامت مارپیچ قلبی» توسط هوش مصنوعی شرح داده شده اند بدون اینکه هیچ مدرک علمی وجود داشته باشد.
آسیب پذیری هوش مصنوعی در برابر اطلاعات نادرست
چتبات های هوش مصنوعی، حتی پیشرفته ترین آن ها، در مواجهه با اطلاعات جعلی آسیب پذیر هستند. پژوهش ها نشان می دهد که این سیستم ها می توانند جزئیات ساختگی را تکرار کرده و حتی توضیحات پیچیده و متقاعدکننده بسازند.
- پژوهشگران در ژورنال Communications Medicine گزارش داده اند که شش چتبات مختلف میزان «توهم» یا تولید اطلاعات جعلی بین ۵۰ تا ۸۲ درصد داشته اند.
- این توهمات می توانند شامل علائم پزشکی، آزمایش ها یا اصطلاحات ساختگی باشند که به نظر علمی و معتبر می آیند.
- دکتر محمود عمر، پژوهشگر ارشد، می گوید که چتبات ها بدون توجه به واقعی بودن اطلاعات، جزئیات پزشکی نادرست را گسترش می دهند و توضیحات قابل قبول ارائه می دهند.
- حتی اصطلاحات کاملاً ساختگی می توانند منجر به پاسخ هایی قاطع و متقاعدکننده شوند که کاملاً خیالی هستند.
کاهش خطرات با هشدار ساده
پژوهش ها نشان می دهد که اعمال اقدامات حفاظتی ساده می تواند میزان تولید اطلاعات جعلی توسط هوش مصنوعی را کاهش دهد. این راهکارها شامل اضافه کردن هشدارها و محدودیت های ساده در پیام ورودی یا پرامپت است.
- هشدار یک خطی به هوش مصنوعی اضافه شد که یادآوری می کرد اطلاعات ارائه شده ممکن است نادرست باشد.
- این هشدار مدل را تشویق می کرد که فقط از اطلاعات بالینی معتبر استفاده کند و به جای حدس زدن، عدم قطعیت را بپذیرد.
- نتایج نشان داد که میزان توهم از ۵۰ تا ۸۲ درصد به حدود ۴۵ درصد کاهش یافت.
- در مورد ChatGPT-۴o، با اضافه شدن هشدار ساده، میزان تولید اطلاعات جعلی از حدود ۵۰ درصد به کمتر از ۲۵ درصد رسید.
نکات مهم برای کاربران
برای جلوگیری از گمراه شدن توسط اطلاعات ساختگی هوش مصنوعی، رعایت چند نکته ساده توصیه می شود.
- همیشه منابع معتبر پزشکی را بررسی کنید و اطلاعات ارائه شده توسط چتبات را با منابع علمی معتبر مطابقت دهید.
- از اصطلاحات یا بیماری هایی که کمتر شناخته شده اند یا گویا عجیب به نظر می رسند، بدون بررسی علمی، استفاده نکنید.
- در صورت نیاز به اطلاعات دقیق پزشکی، به پزشک یا متخصص تغذیه مراجعه کنید و از تصمیم گیری صرفاً بر اساس پاسخ هوش مصنوعی پرهیز کنید.
- هشدارها و یادآوری های ساده در پیام ورودی به هوش مصنوعی می توانند به کاهش تولید اطلاعات نادرست کمک کنند.
نتیجه گیری
هوش مصنوعی ابزار قدرتمندی برای دسترسی به اطلاعات است، اما توانایی آن در تشخیص صحت اطلاعات محدود است. بسیاری از بیماری ها و اصطلاحاتی که توسط چتبات ها توضیح داده می شوند، می توانند کاملاً ساختگی باشند. پژوهش ها نشان داده اند که اعمال هشدارهای ساده در پیام ورودی می تواند میزان تولید این اطلاعات جعلی را به طور چشمگیری کاهش دهد. کاربران باید همیشه به منابع علمی معتبر تکیه کنند و هوش مصنوعی را صرفاً به عنوان ابزار کمکی در نظر بگیرند، نه منبع قطعی اطلاعات پزشکی.
نظرات کاربران