چرا هوش مصنوعی قابل اعتماد نیست؟

در تحقیقی که نتایج توسط مجلات کالج پزشکان آمریکا منتشر شد، پرونده مردی ۶۰ ساله که پس از درخواست مشاوره رژیم غذایی از چت جی پی تی، دچار یک اختلال روانی غیرمعمول شده بود مورد بررسی قرار گرفت.

در تحقیقی که نتایج توسط مجلات کالج پزشکان آمریکا منتشر شد، پرونده مردی ۶۰ ساله که پس از درخواست مشاوره رژیم غذایی از چت جی پی تی، دچار یک اختلال روانی غیرمعمول شده بود مورد بررسی قرار گرفت. – آرش نهاوندی: داستان از این قرار است که مردی به اروژانس مراجعه کرده بود که دچار توهمات شنوایی و بینایی شده و ادعا کرده بود که همسایه‌اش او را مسموم کرده است. او که دچار کم آبی شده بود پس از یک تلاش ناکام برای فرار از درمانگاه، با مایعات و مورد درمان قرار گرفت. او پس ازدرمان اولیه توضیح داد که یک رژیم غذایی بسیار محدود گرفته و سعی کرده بود نمک را به طور کامل حذف کند. او تمام نمک غذای خود را با سدیم بروماید که اغلب به عنوان ضد تشنج سگ استفاده می‌شود، جایگزین کرده بود. او در ادامه توضیح داد که این کار را با استناد از اطلاعاتی که از دریافت کرده بود، انجام داده است. اشتباه مرگبار او پس از بهبودی بیشتر اطلاعاتی که از چت جی پی تی به دست آورده بود گفت که پس از مطالعه در مورد اثرات منفی یا نمک طعام بر سلامت فرد، از اینکه فقط می‌توانست مطالب مربوط به کاهش سدیم از رژیم غذایی خود را پیدا کند، شگفت‌زده شد. او با الهام از سابقه تحصیل در رشته تغذیه در دانشگاه، تصمیم گرفت یک آزمایش شخصی برای حذف کلرید از رژیم غذایی خود انجام دهد. او پس از مشاوره با چت جی پی تی به مدت ۳ ماه، کلرید سدیم را با سدیم برومید جایگزین کردد. در این سایت خوانده بود که کلرید را می‌توان با برومید جایگزین کرد، این در حالی است که سدیم برومید بیشتر به عنوان داروی سگ کاربرد دارد و همچنین برای اهداف نظافت منزل نیز به کار می‌رود. البت هسدیم بوومید کابردهای مختلفی دارد و از پر مصرف‌ترین نمک‌های برومیدی محسوب می‌شود. این ماده شیمیایی علاوه بر صنعت نفت و گاز در داروسازی و پزشکی نیز به عنوان ضد انعقادف ضد تشنج به کار می‌رود. پارانویا و توهمات این اشتباه چت پی تی عاقبت دردناکی را برای این مرد ۶۰ ساله رغم زد. در بخشی از مقاله مطالعه‌ای که روی این مرد انجام شده وضعیت وی در ساعات اولیه پذیرش در اورژانس اینچنین تشریح شده است: در ۲۴ ساعت اول بستری، او دچار پارانویا و توهمات شنیداری و دیداری فزاینده‌ای شد که پس از تلاش برای فرار، منجر به بستری شدن اجباری در بیمارستان روانی به دلیل ناتوانی شدید شد. پزشکان به این نتیجه رسیدند که این مرد از برومیسم یا مسمومیت با برومید رنج می‌برد، بیماری‌ که امروزه نادر است اما در اوایل قرن بیستم شایع‌تر بوده است. این تحقیق خاطرنشان کرد که برومید در آن زمان در چندین داروی بدون نسخه یافت می‌شد و تا ۸ درصد از پذیرش‌های روانپزشکی مرتبط با برومیسم در آن زمان را تشکیل می‌داد. اشکالات هوش مصنوعی اگرچه مشاوره‌های پزشکی مبتنی بر و بررسی آنلاین علائم، مزایای بالقوه‌ای را ارائه می‌دهند، اما دارای معایب قابل توجهی نیز هستند. این موارد شامل خطاهای احتمالی در تشخیص، عدم وجود ارتباط انسانی، نگرانی‌های اخلاقی و خطرات مربوط به حریم خصوصی داده‌ها می‌شود. علاوه بر این، جستجوی آنلاین علائم می‌تواند منجر به خود تشخیصی بر اساس اطلاعات ناقص یا نادرست شود که به طور بالقوه باعث نگرانی غیرضروری یا تأخیر در مراقبت‌های پزشکی مناسب می‌شود. در این بخش از مطلب به تشریح برخی از خطاهای هوش مصنوعی می‌‍پردازیم. اطلاعات نادرست یا گمراه‌کننده سیستم‌های هوش مصنوعی، از جمله بررسی‌کننده‌های علائم و چت‌بات‌ها، گاهی اوقات می‌توانند اطلاعات نادرست یا ناقصی ارائه دهند که منجر به تشخیص نادرست یا خوددرمانی نامناسب می‌شود. فقدان همدلی و ارتباط انسانی نگرانی‌های اخلاقی ابزارهای مبتنی بر هوش مصنوعی، سوالات اخلاقی در مورد حریم خصوصی داده‌ها، سوگیری الگوریتمی و پاسخگویی را مطرح می‌کنند. اگر یک هوش مصنوعی اشتباه کند، تعیین اینکه چه کسی مسئول است، دشوار است. عوارض وابستگی به هوش مصنوعی وابستگی بیش از حد به هوش مصنوعی می‌تواند بیماران را از جستجوی مراقبت‌های پزشکی مناسب منصرف کند و می‌تواند منجر به کاهش تعامل انسان با پزشکان و متخصصان مراقبت‌های بهداشتی شود. خطرات زیر پا گذاشتن حریم خصوصی سیستم‌های هوش مصنوعی نیاز به دسترسی به حجم زیادی از داده‌های بیمار دارند که نگرانی‌هایی را در مورد نقض داده‌ها و سوءاستفاده از اطلاعات حساس ایجاد می‌کند. سوء تعبیر و اضطراب جستجوهای آنلاین می‌تواند منجر به سوء تعبیر علائم و نگرانی بی‌مورد شود. بیماران ممکن است بر اساس اطلاعات محدود، واکنش بیش از حد به علائم رایج نشان دهند یا تشخیص اشتباه بدهند. بیشتر بخوانید: