نمایش چکیده فارسی

Enhancing Clinical Trust in Deep Learning Models Through Grad-CAM-Based Explainability in Radiology Image Classification

Ali Alizadeh1

Abstract :
Due to the opacity of deep learning decisions, deep learning models for image classification tasks in radiology have proven successful yet not implemented in clinics. According to a leading radiology artificial intelligence company, the problem of radiology artificial intelligence is not algorithm performance but the black box issue. The paper describes the use of Gradient-weighted Class Activation Mapping (Grad-CAM) as an explanatory mechanism to increase clinical trust in convolutional neural networks (CNN) predictions for chest X-rays. A framework is offered in which ResNet-50 and DenseNet-121 models are compared not only on conventional classification metrics, but also on the radiological relevance of their Grad-CAM heatmaps in relation to radiologist-identified regions of interest. In addition, our study takes note of the restrictions in the resolution and the scatter of attention in Grad-CAM. To improve the fidelity of localization, we also propose the stratification of aggregation across several levels. Furthermore, the implications of the European Union Artificial Intelligence Act (2024) and the General Data Protection Regulation on explainable AI in healthcare are considered in regulatory terms. The results imply that adding Grad-CAM visualizations to clinical decision-support systems could allow artificial intelligence to communicate more effectively with radiologists, as long as explainability is assessed with clinician-oriented metrics rather than computer-oriented metrics.

Keywords : explainable artificial intelligence grad cam deep learning radiology clinical trust convolutional neural networks


زبان مقاله : انگلیسی
محور مقاله : مهندسی کامپیوتر
محل انتشار : سومین کنفرانس بین المللی رویکردهای نوین در مهندسی و علوم پایه
آدرس وب سایت کنفرانس : icnabs.ir
کد IOI مقاله : ABGZ-ABGABF
لینک مستقیم مقاله : https://isnac.ir/ABGZ-ABGABF
نمایش چکیده فارسی : https://isnac.ir/SA/ABGZ-ABGABF

سایر مقالات محل انتشار
  1. Explainable Artificial Intelligence for Financial Risk Management: Integrating Fraud Detection, Credit Scoring, and Regulatory Compliance
  2. Analysis of Vulnerabilities and Provision of Advanced Security Solutions for Communication Protocols in Air Traffic Control Networks
  3. بهینه سازی مصرف انرژی در ساختمانهای بلند با استفاده از مصالح نوین کامپوزیتی
  4. مقایسه و ارزیابی روش‌های محصورسازی الکترواستاتیکی اینرسی (IECF)برای دستیابی به شرایط همجوشی هسته‌ای
  5. Enhancing Clinical Trust in Deep Learning Models Through Grad-CAM-Based Explainability in Radiology Image Classification
  6. Galvanic Corrosion in Composites: Mechanisms, Environmental Coupling, and Design Strategies
  7. طراحی و پیاده‌سازی کنترل‌کننده فازی و تولید مسیرهای حداقل شتاب و حداقل اسنپ برای رهگیری نرم و سریع مسیر توسط پهپاد چهارملخه
  8. طراحی الگوی جامع مدیریت فضای سبز مبتنی بر سامانه‌های هوشمند و گزارش‌گری مردمی (مطالعه موردی: شهرداری الیگودرز)
  9. ارزیابی پیامدهای حذف چمن‌های پرمصرف و جایگزینی با پوشش‌های گیاهی کم‌نیاز در بوستان‌های شهری (مطالعه موردی: شهر الیگودرز)
  10. ارائه امنيت سايبري بر هوش مصنوعي و فدرال براي زيرساختهاي حياتي صنعتي مرتبط با اينترنت اشيا
  11. طراحی و اعتبارسنجی مدل‌های زبانی بزرگ دوزبانه (فارسی-انگلیسی) حوزه تخصصی پزشکی با رویکرد یادگیری انتقالی و بهینه‌سازی تنظیم دقیق
  12. مقاوم‌سازی لرزه‌ای ساختمان‌های فولادی بلند با استفاده از میراگرهای ویسکوز، اصطکاکی و تسلیمی نوین
  13. Harnessing Artificial Intelligence for the In Silico Design of Synergistic Antimicrobial Therapies Against Multidrug-Resistant Biofilms
  14. Role, Challenges, and Educational Needs of Emergency Nurses in Breaking Bad News to Patients: A Cross-Sectional Study
  15. Optimizing the Structure of Triboelectric Nanogenerators (TENG) via Nanoparticle Deposition to Enhance Power Density in Low-Frequency Vibration Energy Harvesting