نقش هوش مصنوعی تفسیرپذیر در سیستم‌های پشتیبان تصمیم‌گیری بالینی: گذار از جعبه‌سیاه به تشخیص‌های قابل‌اعتماد

سیدعبدالحمید اصفهانی1 سید حسین براتی2

چکیده :
فناوری هوش مصنوعی و به ویژه مدل‌ های پیشرفته یادگیری عمیق، پتانسیل‌ های شگرف و تحول ‌آفرینی در ارتقای کیفیت سیستم‌ های هوشمند پشتیبان تصمیم‌گیری بالینی ایفا می‌کنند، اما ماهیت مبهم و به اصطلاح جعبه‌ سیاه این الگوریتم‌ های پیچیده همواره باعث کاهش معنادار اعتماد متخصصان علوم پزشکی و ایجاد چالش‌ های جدی در پاسخگویی حقوقی و پذیرش گسترده در محیط ‌های درمانی شده است. این پژوهش به صورت یک مطالعه مروری نظام مند با جستجوی گسترده در پایگاه‌ های داده‌ ای معتبر جهانی از جمله اسکوپوس، پاب ‌مد و آی ‌تریپل ‌ئی اکسپلور بر اساس ترکیبی از واژگان کلیدی تخصصی مرتبط با هوش مصنوعی تفسیرپذیر و سیستم‌ های پشتیبان تصمیم‌گیری بالینی و با رعایت دقیق استاندارد های گزارش ‌دهی پریسما انجام شد. از میان انبوه مقالات اولیه، در نهایت ۶۸ مطالعه اصیل که به طور مشخص کاربرد فنون تفسیر پذیری را در تحلیل داده ‌های بالینی غیرتصویری و فرآیند تصمیم ‌سازی پزشکان گزارش کرده بودند، مورد استخراج داده و تحلیل نهایی قرار گرفتند. نتایج نشان داد که روش ‌های فنی مانند شاپ ، لایم و گراد-کم به ترتیب بیشترین میزان کاربرد را در تبیین خروجی ‌های مدل ‌های یادگیری مجموعه ‌ای و یادگیری عمیق داشته ‌اند. هوش مصنوعی تفسیرپذیر گامی حیاتی در جهت ایجاد سیستم‌ های تصمیم ‌یار بالینی شفاف و قابل اعتماد است، اما موفقیت آن مستلزم طراحی کاربرمحور، ارزیابی استاندارد توضیحات و آموزش‌ های تخصصی بالینی است. برای دستیابی به اعتماد واقعی، باید تعادل ظریفی بین صحت فنی توضیحات و درک عملی پزشکان برقرار شود.

کلمات کلیدی : هوش مصنوعی تفسیرپذیر سیستم پشتیبان تصمیم‌گیری بالینی شفافیت اعتماد به هوش مصنوعی shap


زبان مقاله : فارسی
محور مقاله : فناوری های کاربردی هوش مصنوعی و کاربردهای آن در علوم مختلف
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABKBAG
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABKBAG

سایر مقالات محل انتشار
  1. A Study on Design Understandability and Interaction of the therapy-specific Robots
  2. طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتی‌ژن
  3. طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
  4. یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکه‌های خودرویی شهرهای هوشمند با استفاده از داده‌های ترافیکی شبکه سلولی
  5. An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
  6. تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکه‌های عصبی
  7. Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
  8. ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
  9. کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
  10. Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
  11. Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
  12. تحلیل آینده‌پژوهانه هم‌گرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
  13. نقش تحول دیجیتال در خدمات کتابخانه‌های عمومی برای توان‌یابان جسمی و ذهنی
  14. Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
  15. Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems