تقویت اعتماد بالینی به مدل‌های یادگیری عمیق از طریق تبیین‌پذیری مبتنی بر Grad-CAM در طبقه‌بندی تصاویر رادیولوژی

تقویت اعتماد بالینی به مدل‌های یادگیری عمیق از طریق تبیین‌پذیری مبتنی بر Grad-CAM در طبقه‌بندی تصاویر رادیولوژی

علی علیزاده1

1) دانشجوی کارشناسی مهندسی کامپیوتر, دانشگاه علم و صنعت ایران

کد IOI مقاله : ABGZ-ABGABF
محل انتشار : سومین کنفرانس بین المللی رویکردهای نوین در مهندسی و علوم پایه(icnabs.ir)
چکیده :
    به‌دلیل «کدر بودن» فرایند تصمیم‌گیری در یادگیری عمیق، مدل‌های یادگیری عمیق برای وظایفِ طبقه‌بندی تصویر در رادیولوژی اگرچه موفقیت خود را نشان داده‌اند، اما هنوز در محیط‌های بالینی به‌طور گسترده پیاده‌سازی نشده‌اند. بنا بر گزارش یکی از شرکت‌های پیشرو در حوزهٔ هوش مصنوعی رادیولوژی، مسئلهٔ اصلی در هوش مصنوعی رادیولوژی نه عملکرد الگوریتم‌ها، بلکه «مسئلهٔ جعبه‌سیاه» است. این مقاله به‌کارگیریِ «نگاشتِ فعال‌سازیِ کلاسِ وزن‌دهی‌شده با گرادیان» (Gradient-weighted Class Activation Mapping؛ Grad-CAM) را به‌عنوان سازوکارِ تبیینی برای افزایش اعتماد بالینی به پیش‌بینی‌های شبکه‌های عصبی کانولوشنی (CNN) در رادیوگرافی قفسهٔ سینه توصیف می‌کند. چارچوبی ارائه می‌شود که در آن مدل‌های ResNet-50 و DenseNet-121 نه‌تنها بر اساس سنجه‌های متعارفِ طبقه‌بندی، بلکه همچنین از منظرِ «ارتباط رادیولوژیک» نقشه‌های حرارتیِ Grad-CAM آن‌ها، در قیاس با نواحی مورد علاقهٔ مشخص‌شده توسط رادیولوژیست‌ها، با یکدیگر مقایسه می‌گردند. افزون بر این، مطالعهٔ حاضر به محدودیت‌های مربوط به تفکیک‌پذیری (رزولوشن) و پراکندگیِ کانونِ توجه در Grad-CAM نیز توجه دارد. برای بهبودِ وفاداریِ موضع‌یابی، راهبردِ «لایه‌بندیِ تجمیع» در چندین سطح نیز پیشنهاد می‌شود. همچنین، از منظرِ مقررات‌گذاری، پیامدهای «قانون هوش مصنوعی اتحادیهٔ اروپا» (۲۰۲۴) و «مقررات عمومی حفاظت از داده‌ها» (GDPR) برای هوش مصنوعیِ تبیین‌پذیر در حوزهٔ سلامت مورد بررسی قرار می‌گیرد. نتایج حاکی از آن است که افزودنِ مصورسازی‌های Grad-CAM به سامانه‌های پشتیبانِ تصمیم‌گیری بالینی می‌تواند امکان برقراری ارتباط مؤثرترِ هوش مصنوعی با رادیولوژیست‌ها را فراهم سازد؛ مشروط بر آنکه تبیین‌پذیری با سنجه‌های معطوف به بالین (clinician-oriented) سنجیده شود، نه صرفاً با سنجه‌های معطوف به رایانه (computer-oriented).

کلمات کلیدی : ‌ها هوش مصنوعی تبیین‌پذیر grad cam یادگیری عمیق رادیولوژی اعتماد بالینی شبکه‌های عصبی کانولوشنی