استراتژی‌های بهینه‌سازی در یادگیری فدرال: تحلیل و مقایسه روش‌ها

ایمان زمانی1 احمد شریف2 زهرا علیجانی احمدآبادی3

چکیده :
این مرور ادبیات بر سازوکارهای بهینه‌سازی در یادگیری فدرال در معماری هوش‌‎مصنوعی غیرمتمرکز تمرکز دارد و روش‌هایی مانند FedAvg، FedProx، FedDyn، FedNova، فشرده‌سازی گرادیان و تجمیع تطبیقی را تحلیل و مقایسه می‌کند. FedAvg به عنوان پایه اصلی باقی‌مانده اما با تنوع آماری داده‌ها و سیستم مشکل دارد، در حالی که FedProx و FedDyn با افزودن اصطلاحات پروکسیمال و پویا، ثبات الگوریتمی را بهبود می‌بخشند. FedNova با نرمال‌سازی بهینه‌سازی، شکاف در مدل محلی را کاهش می‌دهد و کاهش ابعاد گرادیان همراه با تجمیع پویا، کارایی ارتباطی را افزایش می‌دهد. این روش‌ها به طور جمعی یادگیری فدرال مقیاس‌پذیر و کارآمد را پیش می‌برند. هدف این بررسی، ارزیابی استراتژی‌های مقابله با ناهمگونی، بنچمارکینگ کارایی ارتباطی و سرعت همگرایی، تحلیل فشرده‌سازی گرادیان و تجمیع تطبیقی، تفکیک الگوریتم‌های کلیدی و مقایسه تأثیر ناهمگونی کلاینت و مشارکت جزئی است. تحلیل سیستماتیک مطالعات نظری و تجربی بر روی رفتار همگرایی، کاهش ارتباط، پایداری، مقیاس‌پذیری و تطبیقی تمرکز دارد. یافته‌ها نشان می‌دهند که FedProx، FedDyn و روش‌های پرایمال-دوال همگرایی را در داده‌های ناهمگن بهبود می‌بخشند، در حالی که فشرده‌سازی گرادیان و تجمیع تطبیقی هزینه ارتباطی را به طور قابل توجهی کاهش می‌دهند اما با تریدآف‌هایی در دقت و پیچیدگی همراه هستند. انتخاب کلاینت تطبیقی و تجمیع، پایداری را افزایش می‌دهد اما نیاز به فراداده اضافی دارد و محدودیت‌های مقیاس‌پذیری دارد. روش‌های غیرمتمرکز و مبتنی بر تکانه همگرایی را تسریع می‌کنند و قابلیت‌های متغیر کلاینت را در نظر می‌گیرند. این نتایج به طور جمعی نشان می‌دهند که اگرچه پیشرفت‌های قابل توجهی وجود دارد، ادغام بهینه‌سازی، ارتباط و ناهمگونی هنوز ناقص است. این بررسی بر نیاز به چارچوب‌های پایدار، مقیاس‌پذیر و تطبیقی تأکید دارد که تعادل بین محاسبات محلی و ارتباط را برقرار کنند تا عملکرد یادگیری فدرال را بهینه سازند. این بررسی جهت‌گیری تحقیقات آینده و استقرارهای عملی را روشن می‌کند.

کلمات کلیدی : یادگیری فدرال بهینه‌سازی ناهمگونی داده fedavg fedprox فشرده‌سازی گرادیان


زبان مقاله : فارسی
محور مقاله : فناوری های کاربردی هوش مصنوعی و کاربردهای آن در علوم مختلف
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABCFZC
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABCFZC

سایر مقالات محل انتشار
  1. A Study on Design Understandability and Interaction of the therapy-specific Robots
  2. طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتی‌ژن
  3. طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
  4. یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکه‌های خودرویی شهرهای هوشمند با استفاده از داده‌های ترافیکی شبکه سلولی
  5. An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
  6. تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکه‌های عصبی
  7. Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
  8. ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
  9. کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
  10. Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
  11. Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
  12. تحلیل آینده‌پژوهانه هم‌گرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
  13. نقش تحول دیجیتال در خدمات کتابخانه‌های عمومی برای توان‌یابان جسمی و ذهنی
  14. Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
  15. Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems