توهم در مدلهای زبانی بزرگ: طبقهبندی، علتشناسی و استراتژیهای کاهش
توهم در مدلهای زبانی بزرگ: طبقهبندی، علتشناسی و استراتژیهای کاهش
حمیدرضا مختاری1 حسین ایزدی2 علی کریمی3
1) دانشجوی دکتری مهندسی کامپیوتر، دانشگاه آزاد اسلامی، واحد تهران شمال، تهران، ایران-
2) دانشجوی کارشناسی مهندسی کامپیوتر، دانشگاه ملی مهارت شهرکرد، چهارمحال و بختیاری، ایران-
3) دانشجوی کادرانی مهندسی کامپیوتر، دانشگاه ملی مهارت شهرکرد، چهارمحال و بختیاری، ایران-
کد IOI مقاله
:
AAHD-ABZDAB
محل انتشار :
کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
ظهور مدلهای زبانی بزرگ (LLMs) تحولی بنیادین در پردازش زبان طبیعی (NLP) و هوش مصنوعی ایجاد کرده است. این مدلها با معماری ترنسفورمر و آموزش بر روی حجم عظیم دادههای متنی، قابلیتهای خیرهکنندهای در درک زبان، تولید متن و استدلال دارند. با این حال، یکی از چالشهای اساسی، تمایل ذاتی این مدلها به تولید محتوایی است که اگرچه زبانی روان دارد، اما نادرست، غیرقابل تایید یا در تضاد با ورودی کاربر است. این پدیده که توهم (Hallucination) نامیده میشود، مانعی جدی برای پذیرش و اعتماد به سیستمهای هوش مصنوعی در کاربردهای حساس مانند پزشکی، حقوق و تصمیمگیریهای مالی است. این مقاله مروری جامع، با بهرهگیری از ادبیات اخیر، به بررسی عمیق ابعاد این پدیده میپردازد و ابتدا طبقهبندی دقیقی از توهمات بر اساس پژوهشهای زانگ و هوانگ ارائه میدهد تا چارچوبی نظری ایجاد کند. سپس، ریشههای مشکل را در سه سطح دادههای آموزشی (مانند اطلاعات غلط)، فرآیند آموزش (اهداف یادگیری ناقص) و مرحله استنتاج (استراتژیهای رمزگشایی تصادفی) واکاوی میکنیم. بخش محوری مقاله به تحلیل انتقادی استراتژیهای کاهش توهم اختصاص دارد که شامل بررسی رویکردهای داده-محور نظیر فرضیه همسوسازی سطحی در مدل LIMA، مهندسی پرامپت مانند زنجیره فکر (Chain-of-Thought) و معماریهای پیشرفتهای نظیر تولید افزوده با بازیابی (RAG)، Self-RAG و زنجیره تایید (CoVe) میشود. ما تفاوتهای ظریف بین این روشها، از جمله تفاوت تایید خارجی در RAG و تایید درونی در CoVe را برجسته میکنیم و در نهایت، با بررسی بنچمارکهای ارزیابی نظیر TruthfulQA و HaluEval، چالشهای باز و مسیرهای آینده پژوهش از جمله توهمات چندوجهی را ترسیم میکنیم تا دیدگاهی جامع برای پژوهشگران جهت توسعه سیستمهای هوش مصنوعی قابل اعتمادتر فراهم گردد.
کلمات کلیدی : مدلهای زبانی بزرگ توهم وفاداری واقعگرایی تولید افزوده با بازیابی همسوسازی