جستجو
امنیت هوش مصنوعی عاملمحور: تحلیل تهدیدها، راهبردهای دفاعی، ارزیابی امنیت و چالشهای پیشرو
زهرا بعاجی کاظمی1 سماء گویا2
چکیده :
هوش مصنوعی عاملمحور با تکیه بر مدلهای زبانی بزرگ و برخورداری از قابلیتهایی مانند برنامهریزی، استفاده از ابزار، حافظه و خودمختاری، در حال تبدیلشدن به زیرساختی توانمند برای خودکارسازی فرایندهای پیچیده است. با این حال، انتقال سامانههای هوشمند از نقش پاسخدهنده به عامل تصمیمگیر و اجراکننده، دامنه تهدیدهای امنیتی را بهطور محسوسی گسترش میدهد. این مقاله مروری، تهدیدها و آسیبپذیریهای شاخص در سامانههای عاملمحور را در قالب یک طبقهبندی منسجم بررسی میکند و بر تزریق فرمان و Jailbreak، بهرهبرداری سایبری خودکار و سوءاستفاده از ابزار، تهدیدهای چندعاملی و سطح پروتکل، خطرهای رابط و محیط و مسائل حکمرانی و خودمختاری تمرکز دارد. در ادامه، راهبردهای دفاعی از جمله طراحی مقاوم در برابر تزریق فرمان، تشخیص و جداسازی، اعمال سیاست، محدودسازی قابلیتها، sandboxing، پایش زمان اجرا و استانداردهای سازمانی بررسی میشوند. مقاله همچنین تحول معیارها و بنچمارکهای ارزیابی را از سنجش صرف توانایی انجام وظیفه به سوی سنجش قابلیت اطمینان، ایمنی و کنترل تحلیل میکند. در نهایت، چالشهای باز مانند امنیت افق بلندمدت، همکاری چندعاملی، مقاومت در برابر حملات تطبیقی، امنیت عاملهای فیزیکی و رابط انسان–عامل برجسته میشوند و بر ضرورت حرکت به سوی سامانههای امن از ابتدا تأکید میشود.
کلمات کلیدی : هوش مصنوعی عاملمحور امنیت هوش مصنوعی تزریق فرمان امنیت سایبری سامانههای چندعاملی ارزیابی امنیتی
زبان مقاله : فارسی
محور مقاله : محورهای نظری هوش مصنوعی
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABKGCZ
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABKGCZ
نمایش چکیده انگلیسی
: https://isnac.ir/SA/AAHD-ABKGCZ
سایر مقالات ارائه دهنده
سایر مقالات محل انتشار
- A Study on Design Understandability and Interaction of the therapy-specific Robots
- طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتیژن
- طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
- یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکههای خودرویی شهرهای هوشمند با استفاده از دادههای ترافیکی شبکه سلولی
- An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
- تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکههای عصبی
- Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
- ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
- کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
- Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
- Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
- تحلیل آیندهپژوهانه همگرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
- نقش تحول دیجیتال در خدمات کتابخانههای عمومی برای توانیابان جسمی و ذهنی
- Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
- Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems