‌تولید سپس بازیابی برای پاسخگویی به سؤال مبتنی بر پایگاه دانش با مدل‌های زبانی بزرگ فاین توین شده

‌تولید سپس بازیابی برای پاسخگویی به سؤال مبتنی بر پایگاه دانش با مدل‌های زبانی بزرگ فاین توین شده

مریم خاشعی ورنامخواستی1 محمد مهدی رضاپور2

1) دانشجوی دکتری دانشکده مهندسی کامپیوتر، دانشگاه اصفهان
2) عضو هیئت علمی دانشکده مهندسی کامپیوتر، دانشگاه اصفهان

کد IOI مقاله : AAHD-ACZZZK
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    پاسخ‌گویی به پرسش‌های زبان طبیعی با تکیه بر پایگاه‌های دانش ساخت‌یافته، یکی از چالش‌های مهم در حوزه‌های هوش مصنوعی و بازیابی اطلاعات به‌شمار می‌رود. در این مقاله، یک چارچوب سبک و کم‌هزینه مبتنی بر مدل‌های زبانی بزرگ برای مسئله پرسش‌پاسخ مبتنی بر گراف دانش طراحی و پیاده‌سازی شده است. مدل زبانی TinyLLaMA-1.1B-Chat با بهره‌گیری از تنظیم مبتنی بر دستورالعمل (Instruction Fine-Tuning) بر روی داده‌های LC-QuAD 2.0 آموزش داده شده است. برخلاف روش‌های رایج که متکی بر مدل‌های بسیار بزرگ و پایگاه‌هایی مانند Freebase هستند، این چارچوب از پایگاه دانش Wikidata استفاده می‌کند که به‌صورت بومی از زبان SPARQL پشتیبانی می‌کند. در این سیستم، مدل زبانی آموزش‌دیده فرم منطقی پرسش‌ها را تولید می‌کند؛ سپس با نگاشت مؤلفه‌های معنایی به شناسه‌های مفهومی، کوئری SPARQL تولید و اجرا می‌شود. در نهایت، نتایج همراه با نمودار گراف دانش نمایش داده می‌شوند. نتایج به‌دست‌آمده نشان می‌دهند که حتی مدل‌های سبک‌وزن نیز می‌توانند در کاربردهای زبانی مبتنی بر دانش، عملکرد قابل‌قبولی ارائه دهند.

کلمات کلیدی : مدل زبانی بزرگ فاین‌توین پرسش و پاسخ پایگاه‌دانش