مرور نظام مند رویکردهای توضیح پذیری در طراحی رابطهای هوش مصنوعی و تحلیل نقش بازخوردهای بصری در شکل دهی اعتماد کاربران

مرور نظام مند رویکردهای توضیح پذیری در طراحی رابطهای هوش مصنوعی و تحلیل نقش بازخوردهای بصری در شکل دهی اعتماد کاربران

عباداله زهره وندی1 سارا پوراسدالهی2

1) عضو هیات علمی دانشگاه ملایر، گروه کامپیوتر، واحد ملایر، دانشگاه آزاد اسلامی، ملایر، ایران.
2) دانشجوی کارشناسی ارشد مهندسی نرم افزار، دانشگاه آزاد اسلامی واحد ملایر، ملایر، ایران.

کد IOI مقاله : AAHD-ABKKFC
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    با نفوذ روزافزون سیستم‌های هوش مصنوعی (AI) در حوزه‌های حساس و پرخطر، مسئله «جعبه سیاه» بودن این سیستم‌ها و عدم شفافیت در فرآیندهای تصمیم‌گیری آن‌ها به یک چالش اساسی تبدیل شده است. این عدم شفافیت، مانع اصلی در برابر شکل‌گیری اعتماد مؤثر و کالیبره شده کاربران است. هوش مصنوعی توضیح‌پذیر (XAI) به عنوان یک حوزه میان‌رشته‌ای، با هدف شفاف‌سازی این فرآیندها ظهور کرده است. با این حال، صرف تولید یک توضیح کافی نیست؛ نحوه ارائه این توضیح از طریق رابط کاربری (UI) نقشی حیاتی در اثربخشی آن دارد. این مقاله با استفاده از روش مرور نظام‌مند و تحلیل کیفی-مفهومی، به بررسی جامع رویکردهای توضیح‌پذیری در طراحی رابط‌های کاربری هوش مصنوعی و به طور خاص، تحلیل نقش کلیدی بازخوردهای بصری در شکل‌دهی، کالیبراسیون و حفظ اعتماد کاربران می‌پردازد. با تحلیل و بررسی ادبیات پژوهشی منتشر شده بین سال‌های 2017 تا 2024، این پژوهش یک طبقه‌بندی از تکنیک‌های XAI و مکانیزم‌های بازخورد بصری متناظر با آن‌ها ارائه می‌دهد. یافته‌ها نشان می‌دهد که بازخوردهای بصری، از طریق ترجمه داده‌های انتزاعی توضیحات (مانند اهمیت ویژگی‌ها یا مثال‌های متقابل) به نمایش‌های قابل درک (مانند نقشه‌های حرارتی، نمودارهای میله‌ای یا زبان طبیعی)، به عنوان یک پل شناختی عمل کرده و به طور مستقیم بر پیشایندهای اعتماد (توانایی، خیرخواهی و یکپارچگی درک شده از سیستم) تأثیر می‌گذارند. نتایج حاکی از آن است که هیچ رویکرد بصری واحدی برای همه سناریوها بهینه نیست و اثربخGشی آن به شدت به عواملی چون نوع مدل AI، پیچیدگی وظیفه، تخصص کاربر و هدف توضیح (مثلاً اشکال‌زدایی یا توجیه تصمیم) وابسته است. این مقاله در نهایت یک مدل مفهومی یکپارچه ارائه می‌دهد که تعاملات پویا بین تکنیک XAI، طراحی بازخورد بصری، پیشایندهای شناختی اعتماد و رفتار نهایی کاربر را ترسیم می‌کند و مسیرهای پژوهشی آتی را در جهت طراحی رابط‌های هوش مصنوعی انسان-محور و قابل اعتماد مشخص می‌سازد.

کلمات کلیدی : هوش مصنوعی توضیح‌پذیر (xai) اعتماد به هوش مصنوعی طراحی رابط کاربری تعامل انسان و کامپیوتر (hci) بازخورد بصری تجسم‌سازی اطلاعات