نمایش چکیده انگلیسی

امنیت هوش مصنوعی عامل‌محور: تحلیل تهدیدها، راهبردهای دفاعی، ارزیابی امنیت و چالش‌های پیش‌رو

زهرا بعاجی کاظمی1 سماء گویا2

چکیده :
هوش مصنوعی عامل‌محور با تکیه بر مدل‌های زبانی بزرگ و برخورداری از قابلیت‌هایی مانند برنامه‌ریزی، استفاده از ابزار، حافظه و خودمختاری، در حال تبدیل‌شدن به زیرساختی توانمند برای خودکارسازی فرایندهای پیچیده است. با این حال، انتقال سامانه‌های هوشمند از نقش پاسخ‌دهنده به عامل تصمیم‌گیر و اجراکننده، دامنه تهدیدهای امنیتی را به‌طور محسوسی گسترش می‌دهد. این مقاله مروری، تهدیدها و آسیب‌پذیری‌های شاخص در سامانه‌های عامل‌محور را در قالب یک طبقه‌بندی منسجم بررسی می‌کند و بر تزریق فرمان و Jailbreak، بهره‌برداری سایبری خودکار و سوءاستفاده از ابزار، تهدیدهای چندعاملی و سطح پروتکل، خطرهای رابط و محیط و مسائل حکمرانی و خودمختاری تمرکز دارد. در ادامه، راهبردهای دفاعی از جمله طراحی مقاوم در برابر تزریق فرمان، تشخیص و جداسازی، اعمال سیاست، محدودسازی قابلیت‌ها، sandboxing، پایش زمان اجرا و استانداردهای سازمانی بررسی می‌شوند. مقاله همچنین تحول معیارها و بنچمارک‌های ارزیابی را از سنجش صرف توانایی انجام وظیفه به سوی سنجش قابلیت اطمینان، ایمنی و کنترل تحلیل می‌کند. در نهایت، چالش‌های باز مانند امنیت افق بلندمدت، همکاری چندعاملی، مقاومت در برابر حملات تطبیقی، امنیت عامل‌های فیزیکی و رابط انسان–عامل برجسته می‌شوند و بر ضرورت حرکت به سوی سامانه‌های امن از ابتدا تأکید می‌شود.

کلمات کلیدی : هوش مصنوعی عامل‌محور امنیت هوش مصنوعی تزریق فرمان امنیت سایبری سامانه‌های چندعاملی ارزیابی امنیتی


زبان مقاله : فارسی
محور مقاله : محورهای نظری هوش مصنوعی
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABKGCZ
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABKGCZ
نمایش چکیده انگلیسی : https://isnac.ir/SA/AAHD-ABKGCZ

سایر مقالات محل انتشار
  1. A Study on Design Understandability and Interaction of the therapy-specific Robots
  2. طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتی‌ژن
  3. طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
  4. یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکه‌های خودرویی شهرهای هوشمند با استفاده از داده‌های ترافیکی شبکه سلولی
  5. An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
  6. تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکه‌های عصبی
  7. Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
  8. ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
  9. کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
  10. Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
  11. Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
  12. تحلیل آینده‌پژوهانه هم‌گرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
  13. نقش تحول دیجیتال در خدمات کتابخانه‌های عمومی برای توان‌یابان جسمی و ذهنی
  14. Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
  15. Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems