هوش مصنوعی قابل اعتماد در حوزه سلامت: چارچوبی برای ارزیابی وفاداری و پایداری هوش مصنوعی توضیحپذیر با در نظر گرفتن نوع داده در سیستمهای پشتیبان تصمیمگیری بالینی
هوش مصنوعی قابل اعتماد در حوزه سلامت: چارچوبی برای ارزیابی وفاداری و پایداری هوش مصنوعی توضیحپذیر با در نظر گرفتن نوع داده در سیستمهای پشتیبان تصمیمگیری بالینی
سیده سمیرا ربیع نتاج1
1) دانشجوی کارشناسی ارشد تکنولوژی زبان. دانشگاه تورین
کد IOI مقاله
:
ACCA-ACAZFF
محل انتشار :
چهارمین کنگره بین المللی علوم، مهندسی و فن آوری های نو(secongress.com)
چکیده :
چکیده
بهکارگیری عملی هوش مصنوعی (AI) در فرایندهای پشتیبان تصمیمگیری بالینی، نهتنها به دقت پیشبینی، بلکه به قابلیت اعتماد توضیحاتی نیز وابسته است که خروجیهای مدل را همراهی میکنند. روشهایی مانند SHAP، LIME و گرادیانهای انتگرالگیریشده (Integrated Gradients یا IG) بهطور گسترده در هوش مصنوعی حوزه سلامت استفاده میشوند؛ بااینحال، وفاداری و پایداری آنها معمولاً تنها بر روی یک مجموعهداده و در چارچوب یک وظیفه بالینی مشخص گزارش میشود. در نتیجه، این پرسش همچنان مطرح است که آیا روابط رتبهبندی میان روشهای توضیحپذیری را میتوان به ساختارهای ناهمگون دادهای که در سیستمهای پشتیبان تصمیمگیری بالینی با آنها مواجه هستیم، تعمیم داد یا خیر.
این مقاله چارچوب ارزیابی آگاه از نوع داده برای هوش مصنوعی توضیحپذیر (MAEF-XAI) را پیشنهاد میکند؛ یک فرایند روششناختی که سه ویژگی نرمالسازیشده، شامل وفاداری، پایداری و معقولبودن بالینی را بهصورت همزمان ارزیابی کرده و آنها را از طریق یک شاخص اعتمادپذیری (Trustworthiness Index یا TI) با روش مشخص و مستند تجمیع میکند.
این چارچوب با استفاده از یک آزمایش کوچک و کاملاً بازتولیدپذیر نمایش داده میشود که در آن، یک وظیفه طبقهبندی مبتنی بر دادههای جدولی، مشابه دادههای پرونده الکترونیک سلامت، با یک وظیفه طبقهبندی مبتنی بر تصاویر پزشکی با وضوح پایین مقایسه میشود. نتایج آزمایش نشان میدهند که روابط رتبهبندی میان روشهای توضیحپذیری در انواع مختلف وظایف قابل تعمیم نیستند. در وظیفه مبتنی بر دادههای جدولی، روش SHAP بالاترین میزان پایداری و معقولبودن بر اساس حقیقت مبنا (Ground Truth) را به دست میآورد. در مقابل، در وظیفه مبتنی بر تصاویر، روش IG از نظر پایداری و معقولبودن از هر دو روش SHAP و LIME عملکرد بهتری دارد، درحالیکه روش LIME بالاترین مقدار شاخص ترکیبی اعتمادپذیری (TI) را کسب میکند.
همچنین نشان میدهیم که اعمال تغییرات کوچک (±۰٫۱) در وزنهای شاخص TI میتواند رتبهبندی روشها را در حالت مبتنی بر تصاویر تغییر دهد. این نتیجه بر ضرورت گزارش شفاف تصمیمهای مربوط به نحوه تجمیع معیارها تأکید میکند.
این مقاله بهعنوان یک پژوهش روششناختی ارائه میشود. چارچوب MAEF-XAI یک پروتکل قابل ممیزی فراهم میکند که ارزیابی هوش مصنوعی توضیحپذیر را نه ویژگیای جهانشمول از یک روش توضیحدهی، بلکه مسئلهای وابسته به طراحی و نوع هر وظیفه در نظر میگیرد.
کلیدواژهها: هوش مصنوعی توضیحپذیر، هوش مصنوعی قابل اعتماد، پشتیبانی از تصمیمگیری بالینی، وفاداری، پایداری، SHAP، LIME، گرادیانهای انتگرالگیریشده، روششناسی ارزیابی
کلمات کلیدی : ها هوش مصنوعی توضیحپذیر هوش مصنوعی قابل اعتماد پشتیبانی از تصمیمگیری بالینی وفاداری پایداری shap lime گرادیانهای انتگرالگیریشده روششناسی ارزیابی