جستجو
A Risk-Based Framework for Managing Errors in AI-Based Engineering Chatbots: Project Consequences, Control Gates, and Accountability
Hanieh Rezaeian1 Amirhossein Rezaeian2
Abstract :
AI-based chatbots are increasingly used to support engineering design, project planning, technical documentation, risk analysis, and operational decisions. Their outputs may contain fabricated sources, incorrect calculations, obsolete requirements, omitted assumptions, or recommendations that do not fit project conditions. This paper develops a risk-based conceptual explanation of how such errors travel from model output to project consequence and how control and accountability can interrupt that process. The study uses a critical integrative review and theory-synthesis approach, combining research on generative-AI reliability, human reliance on automation, engineering project risk, and professional governance. The analysis identifies a multi-stage propagation mechanism and derives a six-gate governance architecture, E-TRACE, comprising task-risk evaluation, input traceability, constrained generation, independent audit, accountable release, and incident learning. Its theoretical contribution is to explain the interaction among task criticality, evidence quality, human reliance, control-gate effectiveness, and organizational accountability, rather than merely listing chatbot risks. An error-propagation model, a responsibility ledger, boundary conditions, and testable propositions are developed. No experimental, survey, interview, or field data are claimed; E-TRACE is a theoretically derived framework requiring subsequent empirical evaluation.
Keywords : engineering chatbots generative ai project risk human oversight error propagation accountability
زبان مقاله : انگلیسی
محور مقاله : هوش مصنوعی
محل انتشار : چهارمین کنفرانس بین المللی پیشرفت های اخیر در مهندسی، نوآوری و تکنولوژی - بلژیک
آدرس وب سایت کنفرانس : eitconf.com
کد IOI مقاله : ABEB-ACAFZF
لینک مستقیم مقاله : https://isnac.ir/ABEB-ACAFZF
نمایش چکیده فارسی
: https://isnac.ir/SA/ABEB-ACAFZF
سایر مقالات محل انتشار
- سنجش رفتار میرایی رسهای نمکی تحت تحرکات دینامیکی: مطالعه موردی جزیره هرمز
- کاربرد فناوری بالک چیکن در ردیابی و شفاف سازی زنجیره غذایی برای افزایش ایمنی واعتماد مصرف کننده با استفاده از الگوریتم کندوی عسل
- زیبایی شناسی و خلاقیت در استدلال ریاضی: تحلیلی بر اثبات و اندیشه غیررسمی در تحقیقات دکتری
- The Role of the Root System in Flowering
- Effect of Nutrition on the Root System in Strawberry Plants
- تدوین الگوهای طراحی معماری برای ارتقای هویت اجتماعی زنان در مراکز فرهنگی شهری؛ مطالعه موردی: چند فرهنگسرای منتخب شهر تهران
- Application of Machine Learning in Analyzing Managerial and Environmental Factors Influencing the Development of Emerging Sports (Case Study: Fusion Fitness)
- ارتقاء ایمنی در صنعت ساخت با تکیهبر فناوریهای نوین: ابزارها، دستاوردها و چالشهای استقرار
- رویکرد یکپارچه فناوریهای هوشمند و مدیریت کنترل پروژه برای کاهش ریسک در سیستمهای تحت فشار سنگین صنایع استراتژیک
- Finite Element Assessment and Experimental Validation of an Aluminum L-Bracket Under Static, Thermal, and Harmonic Loading
- Nano-Delivered CRISPR/Cas9 for Cancer Therapy: Targeting Tumorigenic Genes through Epigenetic Modulation and Pathway Disruption
- Gold Nanoparticle‑Assisted Hyperthermia for Cancer Treatment: Current Methods, Challenges, and Future Directions
- طراحی سامانه تصمیمیار هوشمند برای تخمین سطح تهدید در مناطق درگیر با استفاده از الگوریتمهای یادگیری ماشین
- چارچوبهای سیاستگذاری و چالشهای پیادهسازی هوش مصنوعی در صنعت سلامت: رویکرد مروری بر جنبههای جهانی و ملی
- Exploring Machine Learning Algorithms for Damage Detection in Vibration- and Vision-Based Structural Health Monitoring