از جعبه سیاه تا شفافیت: مروری بر توضیح‌پذیری و توصیفی‌بودن در مدل‌های عمیق، با تأکید بر روندهای نوین و کاربردها

از جعبه سیاه تا شفافیت: مروری بر توضیح‌پذیری و توصیفی‌بودن در مدل‌های عمیق، با تأکید بر روندهای نوین و کاربردها

مژگان صالحی نسب1 عبداله چاله چاله2

1) دانشجوی دکتری مهندسی معماری سیستم های کامپیوتری، دانشگاه رازی، کرمانشاه، ایران،
2) دانشیار گروه مهندسی کامپیوتر، دانشگاه رازی، کرمانشاه، ایران،

کد IOI مقاله : AAHD-ABKDZD
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    با گسترش کاربرد مدل‌های یادگیری عمیق در حوزه‌های حساس مانند پزشکی، حقوق و صنعت، نیاز به شفافیت و قابلیت تفسیر این مدل‌ها به مسئله‌ای اساسی تبدیل شده است. توضیح‌پذیری و توصیفی‌بودن دو رویکرد مکمل برای افزایش اعتماد و کنترل بر این سامانه‌ها هستند. در این مقاله، پس از مرور مفاهیم، دسته‌بندی‌ها و معیارهای ارزیابی، به بررسی پیشرفته‌ترین روش‌های توضیح‌پذیری شامل نقشه‌های سالینسی، انتساب ویژگی، روش‌های مبتنی بر نمونه، توضیح مبتنی بر مفهوم، و نقش مدل‌های بزرگ زبانی و چندوجهی مانند GPT-4، Gemini، BLIP-2 پرداخته می‌شود. همچنین چالش‌های نوظهور نظیر مقیاس‌پذیری، ارزیابی انسانی، شخصی‌سازی و ملاحظات اخلاقی مورد بحث قرار گرفته و در نهایت، چشم‌انداز آینده این حوزه با تأکید بر سامانه‌های تعاملی و استانداردسازی ترسیم می‌شود. این مقاله می‌تواند به‌عنوان مرجعی جامع برای پژوهشگران و فعالان حوزه هوش مصنوعی در درک وضعیت کنونی و مسیرهای پیشِ روی توضیح‌پذیری مورد استفاده قرار گیرد.

کلمات کلیدی : هوش مصنوعی قابل توضیح تفسیرپذیری مدل‌های چندوجهی روش‌های تفسیر پس‌از‌آموزش