نقش هوش مصنوعی تفسیرپذیر در سیستمهای پشتیبان تصمیمگیری بالینی: گذار از جعبهسیاه به تشخیصهای قابلاعتماد
نقش هوش مصنوعی تفسیرپذیر در سیستمهای پشتیبان تصمیمگیری بالینی: گذار از جعبهسیاه به تشخیصهای قابلاعتماد
سیدعبدالحمید اصفهانی1 سید حسین براتی2
1) عضو هیات علمی دانشگاه آزاد واحد قاینات
2) دانشجو دکترا فناوری اطلاعات
کد IOI مقاله
:
AAHD-ABKBAG
محل انتشار :
کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
فناوری هوش مصنوعی و به ویژه مدل های پیشرفته یادگیری عمیق، پتانسیل های شگرف و تحول آفرینی در ارتقای کیفیت سیستم های هوشمند پشتیبان تصمیمگیری بالینی ایفا میکنند، اما ماهیت مبهم و به اصطلاح جعبه سیاه این الگوریتم های پیچیده همواره باعث کاهش معنادار اعتماد متخصصان علوم پزشکی و ایجاد چالش های جدی در پاسخگویی حقوقی و پذیرش گسترده در محیط های درمانی شده است. این پژوهش به صورت یک مطالعه مروری نظام مند با جستجوی گسترده در پایگاه های داده ای معتبر جهانی از جمله اسکوپوس، پاب مد و آی تریپل ئی اکسپلور بر اساس ترکیبی از واژگان کلیدی تخصصی مرتبط با هوش مصنوعی تفسیرپذیر و سیستم های پشتیبان تصمیمگیری بالینی و با رعایت دقیق استاندارد های گزارش دهی پریسما انجام شد. از میان انبوه مقالات اولیه، در نهایت ۶۸ مطالعه اصیل که به طور مشخص کاربرد فنون تفسیر پذیری را در تحلیل داده های بالینی غیرتصویری و فرآیند تصمیم سازی پزشکان گزارش کرده بودند، مورد استخراج داده و تحلیل نهایی قرار گرفتند. نتایج نشان داد که روش های فنی مانند شاپ ، لایم و گراد-کم به ترتیب بیشترین میزان کاربرد را در تبیین خروجی های مدل های یادگیری مجموعه ای و یادگیری عمیق داشته اند. هوش مصنوعی تفسیرپذیر گامی حیاتی در جهت ایجاد سیستم های تصمیم یار بالینی شفاف و قابل اعتماد است، اما موفقیت آن مستلزم طراحی کاربرمحور، ارزیابی استاندارد توضیحات و آموزش های تخصصی بالینی است. برای دستیابی به اعتماد واقعی، باید تعادل ظریفی بین صحت فنی توضیحات و درک عملی پزشکان برقرار شود.
کلمات کلیدی : هوش مصنوعی تفسیرپذیر سیستم پشتیبان تصمیمگیری بالینی شفافیت اعتماد به هوش مصنوعی shap