جستجو
از جعبه سیاه تا شفافیت: مروری بر توضیحپذیری و توصیفیبودن در مدلهای عمیق، با تأکید بر روندهای نوین و کاربردها
مژگان صالحی نسب1 عبداله چاله چاله2
چکیده :
با گسترش کاربرد مدلهای یادگیری عمیق در حوزههای حساس مانند پزشکی، حقوق و صنعت، نیاز به شفافیت و قابلیت تفسیر این مدلها به مسئلهای اساسی تبدیل شده است. توضیحپذیری و توصیفیبودن دو رویکرد مکمل برای افزایش اعتماد و کنترل بر این سامانهها هستند. در این مقاله، پس از مرور مفاهیم، دستهبندیها و معیارهای ارزیابی، به بررسی پیشرفتهترین روشهای توضیحپذیری شامل نقشههای سالینسی، انتساب ویژگی، روشهای مبتنی بر نمونه، توضیح مبتنی بر مفهوم، و نقش مدلهای بزرگ زبانی و چندوجهی مانند GPT-4، Gemini، BLIP-2 پرداخته میشود. همچنین چالشهای نوظهور نظیر مقیاسپذیری، ارزیابی انسانی، شخصیسازی و ملاحظات اخلاقی مورد بحث قرار گرفته و در نهایت، چشمانداز آینده این حوزه با تأکید بر سامانههای تعاملی و استانداردسازی ترسیم میشود. این مقاله میتواند بهعنوان مرجعی جامع برای پژوهشگران و فعالان حوزه هوش مصنوعی در درک وضعیت کنونی و مسیرهای پیشِ روی توضیحپذیری مورد استفاده قرار گیرد.
کلمات کلیدی : هوش مصنوعی قابل توضیح تفسیرپذیری مدلهای چندوجهی روشهای تفسیر پسازآموزش
زبان مقاله : فارسی
محور مقاله : آینده پژوهی در مهندسی، فناوری اطلاعات، وب، سیستم های هوشمند و امنیت سایبری
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABKDZD
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABKDZD
سایر مقالات محل انتشار
- A Study on Design Understandability and Interaction of the therapy-specific Robots
- طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتیژن
- طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
- یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکههای خودرویی شهرهای هوشمند با استفاده از دادههای ترافیکی شبکه سلولی
- An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
- تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکههای عصبی
- Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
- ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
- کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
- Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
- Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
- تحلیل آیندهپژوهانه همگرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
- نقش تحول دیجیتال در خدمات کتابخانههای عمومی برای توانیابان جسمی و ذهنی
- Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
- Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems