جستجو
هوش مصنوعی تبیینپذیر، قابل اعتماد و مسئولانه: مفاهیم، روشها و چالشها
هانیه رضاخانی1
چکیده :
چکیده
با گسترش بهکارگیری سامانههای یادگیری ماشین در تصمیمهای حساس، تبیینپذیری، قابلیت اطمینان و مسئولانهبودن هوش مصنوعی از ملاحظات جانبی به الزامهای مهندسی تبدیل شدهاند. این مقاله با رویکرد مروری، مفاهیم و روشهای تبیینپذیری، ابعاد فنی قابلیت اطمینان (کالیبراسیون، استواری و پایش)، انصاف، حریم خصوصی و سازوکارهای پاسخگویی را بررسی میکند. روش پژوهش، تحلیل مقایسهای منابع معتبر منتشرشده در مجلات و کنفرانسهای شناختهشده و اسناد استاندارد و مقرراتی است. یافتهها نشان میدهد روشهای تبیین پسینی مانند LIME و SHAP برای بررسی رفتار مدلهای پیچیده مفیدند، اما وفاداری تبیینها باید جداگانه ارزیابی شود؛ آزمونهای سلامتسنجی نشان دادهاند که برخی روشهای نگاشت برجستگی به پارامترهای مدل حساس نیستند. همچنین شبکههای عصبی مدرن اغلب کالیبرهنشدهاند و در برابر نمونههای خصمانه آسیبپذیرند. مستندسازی (کارت مدل و برگه داده) و ممیزی درونی، پیوند عملی میان اصول اخلاقی و فرایند مهندسی را فراهم میکنند. در پایان، چالشها و مسیرهای پژوهشی آینده پیشنهاد میشود.
کلمات کلیدی : هوش مصنوعی تبیینپذیر هوش مصنوعی قابل اعتماد هوش مصنوعی مسئولانه انصاف حکمرانی هوش مصنوعی
زبان مقاله : فارسی
محور مقاله : هوش مصنوعی
محل انتشار : دهمین کنفرانس بین المللی پژوهش های کاربردی در علوم و مهندسی
آدرس وب سایت کنفرانس : carseconf.com
کد IOI مقاله : ACCD-ACAZCK
لینک مستقیم مقاله : https://isnac.ir/ACCD-ACAZCK
نمایش چکیده انگلیسی
: https://isnac.ir/SA/ACCD-ACAZCK
سایر مقالات محل انتشار
- «طراحی الگوی هوشمند مدیریت بحران شهری مبتنی بر هوش مصنوعی با تأکید بر پیشبینی مخاطرات، تحلیل بلادرنگ دادهها و پشتیبانی از تصمیمگیری»
- ارائه مدل یکپارچه مدیریت زنجیره تأمین، موجودی و لجستیک قطعات یدکی با هدف کاهش هزینه و توقف تولید در صنعت فولاد
- بهینهسازی مبتنی بر داده مدارهای خردایش و آسیابکنی با بهرهوری انرژی بالا: یکپارچهسازی شرایط عملیاتی HPGR، محیط آسیابکنی، ویژگیهای کانسنگ و آزادسازی کانیها
- توسعه چارچوب یکپارچه مبتنی بر هوش مصنوعی برای مدیریت پیشبینانه ریسک در پروژههای پیچیده: رویکردی کاربردی برای بهبود زمان، هزینه و کیفیت پروژه
- Valuing AI-Related Intangible Assets: Challenges and Limitations of Conventional Approaches
- فرآوردههای بیولوژیک (Biological Products): اصول بیوتکنولوژی دارویی، چالشهای بالینی، چشماندازهای تولید و افقهای تنظیمی
- Path Planning and Flight Control of Unmanned Aerial Vehicles: A Review of Algorithms and Future Directions
- الگوی کالبدی بهینه بلوکهای شهری، زیربنای الگوهای توسعه آینده؛ بهینهسازی چندهدفه انرژی خورشیدی و تابآوری HSE
- Smart Materials for Future Buildings
- The role of CNC milling in the path of smart manufacturing
- تنظیم رئولوژی دوغاب فایبر سمنت برای بهبود فرآیندپذیری در روش هاتچک: مروری بر افزودنیها، مواد مکمل سیمانی و نانومواد
- Quantum Materials for Next Generation Spintronic Devices: A Short Review
- A Systematic Review of Deep Learning Applications in Breast Cancer Detection Using MRI, Mammography, and Ultrasound
- Service Design and Minimal UI for Hospital Services: A Study in Shiraz
- Analytical Assessment of Microplastic Pollution in Water Resources and Challenges for Sustainable Management