چارچوبی مبتنی بر ریسک برای مدیریت خطاها در چت‌بات‌های مهندسی مبتنی بر هوش مصنوعی: پیامدهای پروژه، دروازه‌های کنترلی و پاسخگویی

چارچوبی مبتنی بر ریسک برای مدیریت خطاها در چت‌بات‌های مهندسی مبتنی بر هوش مصنوعی: پیامدهای پروژه، دروازه‌های کنترلی و پاسخگویی

امیرحسن رضائیان1 هانیه رضائیان2

1) دانشجوی کارشناسی ارشد مهندسی آموزش، دانشکده علوم مهندسی، دانشگاه تهران، تهران، ایران ایمیل:
2) کارشناسی ارشد مهندسی مکاترونیک، دانشگاه سیستان و بلوچستان، زاهدان، ایران ایمیل:

کد IOI مقاله : ABEB-ACAFZF
محل انتشار : چهارمین کنفرانس بین المللی پیشرفت های اخیر در مهندسی، نوآوری و تکنولوژی - بلژیک(eitconf.com)
چکیده :
    چت‌بات‌های مبتنی بر هوش مصنوعی به‌طور فزاینده‌ای برای پشتیبانی از طراحی مهندسی، برنامه‌ریزی پروژه، مستندسازی فنی، تحلیل ریسک و تصمیم‌گیری‌های عملیاتی استفاده می‌شوند. بااین‌حال، خروجی‌های آن‌ها ممکن است شامل منابع ساختگی، محاسبات نادرست، الزامات منسوخ، فرضیات حذف‌شده یا توصیه‌های ناسازگار با شرایط پروژه باشد. این پژوهش با هدف تبیین ریسک‌محور چگونگی تبدیل خطاهای خروجی چت‌بات‌ها به پیامدهای پروژه و شناسایی سازوکارهای کنترلی و پاسخگویی برای جلوگیری از این فرایند انجام شده است. روش پژوهش مبتنی بر مرور انتقادی و تلفیقی منابع و سنتز نظری است و مطالعات مرتبط با قابلیت اطمینان هوش مصنوعی مولد، اتکای انسانی به سامانه‌های خودکار، ریسک پروژه‌های مهندسی و حکمرانی حرفه‌ای را ترکیب می‌کند. بر اساس تحلیل انجام‌شده، سازوکار چندمرحله‌ای انتشار خطا شناسایی و چارچوب حکمرانی شش‌مرحله‌ای E-TRACE ارائه شده است که شامل ارزیابی ریسک وظیفه، قابلیت ردیابی ورودی‌ها، محدودسازی تولید محتوا، ممیزی مستقل خروجی، تأیید انتشار مسئولانه و یادگیری از رخدادهاست. سهم نظری پژوهش، تبیین تعامل میان اهمیت وظیفه، کیفیت شواهد، اتکای انسانی، اثربخشی مراحل کنترلی و پاسخگویی سازمانی است. همچنین، مدل انتشار خطا، دفتر ثبت مسئولیت‌ها، شرایط مرزی و گزاره‌های قابل‌آزمون توسعه یافته‌اند. این پژوهش ادعای انجام آزمایش، پیمایش، مصاحبه یا گردآوری داده‌های میدانی ندارد و چارچوب E-TRACE نیازمند ارزیابی تجربی در پژوهش‌های آینده است.

کلمات کلیدی : چت‌بات‌های مهندسی هوش مصنوعی مولد ریسک پروژه نظارت انسانی انتشار خطا پاسخگویی