جستجو
توهم در مدلهای زبانی بزرگ: طبقهبندی، علتشناسی و استراتژیهای کاهش
حمیدرضا مختاری1 حسین ایزدی2 علی کریمی3
چکیده :
ظهور مدلهای زبانی بزرگ (LLMs) تحولی بنیادین در پردازش زبان طبیعی (NLP) و هوش مصنوعی ایجاد کرده است. این مدلها با معماری ترنسفورمر و آموزش بر روی حجم عظیم دادههای متنی، قابلیتهای خیرهکنندهای در درک زبان، تولید متن و استدلال دارند. با این حال، یکی از چالشهای اساسی، تمایل ذاتی این مدلها به تولید محتوایی است که اگرچه زبانی روان دارد، اما نادرست، غیرقابل تایید یا در تضاد با ورودی کاربر است. این پدیده که توهم (Hallucination) نامیده میشود، مانعی جدی برای پذیرش و اعتماد به سیستمهای هوش مصنوعی در کاربردهای حساس مانند پزشکی، حقوق و تصمیمگیریهای مالی است. این مقاله مروری جامع، با بهرهگیری از ادبیات اخیر، به بررسی عمیق ابعاد این پدیده میپردازد و ابتدا طبقهبندی دقیقی از توهمات بر اساس پژوهشهای زانگ و هوانگ ارائه میدهد تا چارچوبی نظری ایجاد کند. سپس، ریشههای مشکل را در سه سطح دادههای آموزشی (مانند اطلاعات غلط)، فرآیند آموزش (اهداف یادگیری ناقص) و مرحله استنتاج (استراتژیهای رمزگشایی تصادفی) واکاوی میکنیم. بخش محوری مقاله به تحلیل انتقادی استراتژیهای کاهش توهم اختصاص دارد که شامل بررسی رویکردهای داده-محور نظیر فرضیه همسوسازی سطحی در مدل LIMA، مهندسی پرامپت مانند زنجیره فکر (Chain-of-Thought) و معماریهای پیشرفتهای نظیر تولید افزوده با بازیابی (RAG)، Self-RAG و زنجیره تایید (CoVe) میشود. ما تفاوتهای ظریف بین این روشها، از جمله تفاوت تایید خارجی در RAG و تایید درونی در CoVe را برجسته میکنیم و در نهایت، با بررسی بنچمارکهای ارزیابی نظیر TruthfulQA و HaluEval، چالشهای باز و مسیرهای آینده پژوهش از جمله توهمات چندوجهی را ترسیم میکنیم تا دیدگاهی جامع برای پژوهشگران جهت توسعه سیستمهای هوش مصنوعی قابل اعتمادتر فراهم گردد.
کلمات کلیدی : مدلهای زبانی بزرگ توهم وفاداری واقعگرایی تولید افزوده با بازیابی همسوسازی
زبان مقاله : فارسی
محور مقاله : مهندسی و علوم کامپیوتر ( کلیه گرایش ها)
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABZDAB
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABZDAB
سایر مقالات ارائه دهنده
- توهم در مدلهای زبانی بزرگ: طبقهبندی، علتشناسی و استراتژیهای کاهش
- بررسی تاثیرات هوش مصنوعی در اشتغال زایی و ایجاد شغل های نوین
- چالشهای امنیت و حریم خصوصی در محیطهای ابری چند کاربره
- A Systematic Review of Intrusion and Anomaly Detection Techniques in IoT
- ادغام سیستم_های تشخیص چهره دوربین_های مداربسته با معماری شبکه با اعتماد صفر
سایر مقالات محل انتشار
- A Study on Design Understandability and Interaction of the therapy-specific Robots
- طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتیژن
- طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
- یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکههای خودرویی شهرهای هوشمند با استفاده از دادههای ترافیکی شبکه سلولی
- An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
- تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکههای عصبی
- Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
- ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
- کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
- Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
- Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
- تحلیل آیندهپژوهانه همگرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
- نقش تحول دیجیتال در خدمات کتابخانههای عمومی برای توانیابان جسمی و ذهنی
- Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
- Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems