یک چارچوب محلی مبتنی بر RAG برای تولید پرسش چند فرمتی و پاسخ‌دهی مبتنی بر سند از محتوای PDF

یک چارچوب محلی مبتنی بر RAG برای تولید پرسش چند فرمتی و پاسخ‌دهی مبتنی بر سند از محتوای PDF

امیرحسین برادران1 سعیده سادات سدیدپور2 کاوه آهنگر بیک3 سید مصطفی حسینی شکیب4

1) دانشجوی دکتری هوش مصنوعی دانشگاه صنعتی مالک اشتر
2) استادیار دکتری هوش مصنوعی دانشگاه صنعتی مالک اشتر
3) دانشجوی کارشناسی ارشد هوش مصنوعی دانشگاه صنعتی مالک اشتر
4) دانشجوی کارشناسی ارشد هوش مصنوعی دانشگاه صنعتی مالک اشتر

کد IOI مقاله : AAHD-ABKEGH
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    مدل‌های زبانی بزرگ، قابلیت‌های قوی در تولید زبان طبیعی از خود نشان داده‌اند؛ با این حال، اعمال مستقیم دانش از پیش آموزش‌دیده آنها به وظایف آموزشی خاص سند، ممکن است منجر به پاسخ‌هایی شود که به اندازه کافی در محتوای هدف ریشه ندارند. این مقاله یک چارچوب تولید محلی تقویت‌شده با بازیابی (RAG) برای تولید خودکار سوال و پاسخ به سوال مبتنی بر سند از محتوای PDF ارائه می‌دهد. سیستم پیشنهادی، استخراج متن سند و تشخیص نوری کاراکتر، تقسیم‌بندی متن همپوشانی، تعبیه معنایی، بازیابی برداری مبتنی بر FAISS و مدل‌های زبانی بزرگ مستقر در محل از طریق Ollama را ادغام می‌کند. استراتژی‌های اختصاصی برای ایجاد چهار قالب سوال آموزشی توسعه داده شده‌اند: انشا، پاسخ کوتاه، چندگزینه‌ای و سوالات جای خالی را پر کنید. یک مرحله اصلاح نیز برای بهبود پوشش و ساختار سوالات تولید شده به کار گرفته می‌شود، در حالی که تولید پاسخ مبتنی بر بازیابی، پاسخ‌ها را در مرتبط‌ترین بخش‌های سند منبع قرار می‌دهد. برای استفاده تعاملی، این چارچوب در یک رابط مبتنی بر Streamlit ادغام شده است که امکان آپلود PDF و پاسخ به سوال مکالمه‌ای را فراهم می‌کند. سیستم پیاده‌سازی‌شده، امکان ترکیب مدل‌های زبان محلی، بازیابی معنایی و راهنمایی‌های خاص وظیفه را در یک چارچوب آموزشی یکپارچه مبتنی بر سند نشان می‌دهد و در عین حال وابستگی به خدمات مدل زبان مبتنی بر ابر خارجی را کاهش می‌دهد.

کلمات کلیدی : تولید افزوده بازیابی (rag) مدل‌های زبان بزرگ تولید خودکار سوال پاسخ به سوال بازیابی معنایی faiss مدل های زبانی بزرگ محلی پردازش زبان طبیعی آموزشی