هوش مصنوعی تبیین‌پذیر، قابل اعتماد و مسئولانه: مفاهیم، روش‌ها و چالش‌ها

هوش مصنوعی تبیین‌پذیر، قابل اعتماد و مسئولانه: مفاهیم، روش‌ها و چالش‌ها

هانیه رضاخانی1

1) دانشجوی کارشناسی ارشد مهندسی و علوم کامپیوتر - هوش مصنوعی

کد IOI مقاله : ACCD-ACAZCK
محل انتشار : دهمین کنفرانس بین المللی پژوهش های کاربردی در علوم و مهندسی(carseconf.com)
چکیده :
    چکیده با گسترش به‌کارگیری سامانه‌های یادگیری ماشین در تصمیم‌های حساس، تبیین‌پذیری، قابلیت اطمینان و مسئولانه‌بودن هوش مصنوعی از ملاحظات جانبی به الزام‌های مهندسی تبدیل شده‌اند. این مقاله با رویکرد مروری، مفاهیم و روش‌های تبیین‌پذیری، ابعاد فنی قابلیت اطمینان (کالیبراسیون، استواری و پایش)، انصاف، حریم خصوصی و سازوکارهای پاسخ‌گویی را بررسی می‌کند. روش پژوهش، تحلیل مقایسه‌ای منابع معتبر منتشرشده در مجلات و کنفرانس‌های شناخته‌شده و اسناد استاندارد و مقرراتی است. یافته‌ها نشان می‌دهد روش‌های تبیین پسینی مانند LIME و SHAP برای بررسی رفتار مدل‌های پیچیده مفیدند، اما وفاداری تبیین‌ها باید جداگانه ارزیابی شود؛ آزمون‌های سلامت‌سنجی نشان داده‌اند که برخی روش‌های نگاشت برجستگی به پارامترهای مدل حساس نیستند. همچنین شبکه‌های عصبی مدرن اغلب کالیبره‌نشده‌اند و در برابر نمونه‌های خصمانه آسیب‌پذیرند. مستندسازی (کارت مدل و برگه داده) و ممیزی درونی، پیوند عملی میان اصول اخلاقی و فرایند مهندسی را فراهم می‌کنند. در پایان، چالش‌ها و مسیرهای پژوهشی آینده پیشنهاد می‌شود.

کلمات کلیدی : هوش مصنوعی تبیین‌پذیر هوش مصنوعی قابل اعتماد هوش مصنوعی مسئولانه انصاف حکمرانی هوش مصنوعی