بررسی روش‌های تعبیه‌ی کلمات در پردازش متون

بررسی روش‌های تعبیه‌ی کلمات در پردازش متون

محمد آذری جعفری1

1) کارشناسی ارشد مهندسی فناوری اطلاعات، دانشگاه قم، ایران:

کد IOI مقاله : XCCC-GAFBZ
محل انتشار : دهمین کنفرانس بین المللی فناوری های نوآورانه در زمینه علوم، مهندسی و تکنولوژی(tetsconf.com)
چکیده :
    بازنمایی کلمات، پایه و اساس بسیاری از وظایف پردازش زبان طبیعی (NLP) می‌باشد که معنا و مفهوم ویژگان را در قالب دنباله‌ای از اعداد به مدل‌های پردازش متن منتقل می‌کند. رویکرد‌های اخیر برای بازنمایی کلمات که به آن‌ها مدل‌های تعبیه‌ی کلمات نیز گفته می‌شود، دانش موجود در متون را در فضای چند بعدی اعداد حفظ می‌کند. این رویکرد‌ها موجب ارتقای دقت در بسیاری از وظایف NLP مانند طبقه‌بندی متن، پاسخ به پرسش، استنتاج در متن و تحلیل احساسات شده‌اند. مدل‌های تعبیه کلمات که اکثرا مبتنی بر شبکه‌های عصبی می‌باشند، ویژگی‌های متفاوتی دارند که منجر به تفاوت در نوع و میزان انتقال دانش از متن به مدل می‌شوند. اگرچه برخی مدل‌های جدید در وظایف مختلف عملکرد بهتری داشته‌اند اما هیچ کدام نسبت به دیگری ارجحیت نداشته و در پژوهش‌های مختلف خواص متفاوتی از خود نشان داده‌اند. در این پژوهش ما مهم‌ترین مدل‌های تعبیه‌ی کلمات را در دو دسته‌ی «مدل‌های مستقل از زمینه کلمات» و «مدل‌های مبتنی بر زمینه کلمات» مرور کرده‌ایم و ضمن معرفی روش کار آن‌ها، به نقد و بررسی چالش‌های هر مدل پرداخته‌ایم. ما همچنین به شرح مهم‌ترین ویژگی‌های این مدل‌های تعبیه کلمات و مقایسه‌ی آن‌ها با هم پرداخته‌ایم.

کلمات کلیدی : پردازش زبان طبیعی یادگیری ماشین بازنمایی کلمات تعبیه‌های مستقل از زمینه کلمات تعبیه‌های مبتنی بر زمینه کلمات