تحلیل جامع و سیستماتیک آسیب‌پذیری‌های امنیتی در پروتکل‌های واترمارکینگ مدل‌های هوش مصنوعی مولد

حسین شیخی1 احسان سلیمانی دهکردی2

چکیده :
با ظهور پارادایم هوش مصنوعی مولد و گسترش مدل‌های زبانی بزرگ (LLMs) و مدل‌های انتشار (Diffusion Models)، چالش‌های امنیتی و اخلاقی نوظهوری همچون نقض مالکیت معنوی و اشاعه اطلاعات غلط پدید آمده است. اگرچه واترمارکینگ دیجیتال به‌عنوان راهکاری محوری برای اثبات اصالت و ردیابی منشأ محتوا مطرح شده، اما این پژوهش نشان می‌دهد که پروتکل‌های فعلی در برابر حملات خصمانه (Adversarial Attacks) به‌شدت آسیب‌پذیر هستند. در این مقاله، با اتخاذ رویکردی فنی و ریاضیاتی، مکانیسم‌های شکست واترمارک در دو حوزه متن و تصویر کالبدشکافی شده است. یافته‌ها حاکی از آن است که حملات نوین نظیر بازنویسی مبتنی بر خود-اطلاعاتی (SIRA) در متن و حملات بازسازی (Regeneration) در تصویر، قادرند با بهره‌گیری از ویژگی‌های آماری خودِ مدل‌های مولد، سیگنال‌های امنیتی را بدون افت کیفیت ادراکی حذف یا جعل کنند. در نهایت، با استناد به قضیه عدم امکان (Impossibility Theorem) و نتایج بنچمارک WAVES، اثبات می‌شود که امنیت مبتنی بر مخفی‌کاری در فضای فعلی ناکارآمد بوده و ضرورت گذار به سمت واترمارکینگ معنایی و امضاهای رمزنگاری‌شده اجتناب‌ناپذیر است.

کلمات کلیدی : هوش مصنوعی مولد واترمارکینگ دیجیتال حملات خصمانه مدل‌های زبانی بزرگ مدل‌های انتشار حمله


زبان مقاله : فارسی
محور مقاله : محورهای نظری هوش مصنوعی
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری
آدرس وب سایت کنفرانس : itnaf.ir
کد IOI مقاله : AAHD-ABBDHA
لینک مستقیم مقاله : https://isnac.ir/AAHD-ABBDHA

سایر مقالات محل انتشار
  1. A Study on Design Understandability and Interaction of the therapy-specific Robots
  2. طراحی و مهندسی یک حسگر زیستی نوری چند مدی پلاسمونیک مبتنی بر تشدیدگرهای حلقه شکاف برای سنجش جامع آنتی‌ژن
  3. طراحی یک اسیلاتورکنترل شونده با ولتاژ با نویز فاز بسیار پایین و بازه وسیع فرکانسی با تکنولوژی نانولوله کربنی برای کاربردهای PLL
  4. یک چارچوب هوشمند آگاه به زمینه برای ارتباطات V2V و V2Iدر شبکه‌های خودرویی شهرهای هوشمند با استفاده از داده‌های ترافیکی شبکه سلولی
  5. An Ensemble Non-Dominated Feature Selection Method: A Case Study on Prostate Cancer
  6. تشخیص زودهنگام پوسیدگی دندان با استفاده از شبکه‌های عصبی
  7. Simulation and Performance Comparison of Torque Tube and LVDT Sensors in Displacer-Based Level Measurement Systems
  8. ارتقا سامانه ناوبری پهپاد مهاجر ۶ با استفاده از فناوری
  9. کاربرد نانوذرات مگنتیت (Fe3O4) در پزشکی (از سنتز تا عملکرد)
  10. Simulation and Modeling of Floating-Gate Non-Volatile Memory Performance: Focus on Oxide Thickness, Programming Speed, and Charge Transport Mechanisms
  11. Fraud Analytics with Big Data: A Literature Review on Machine Learning Algorithms in Bankruptcy Prediction and Financial Fraud Detection
  12. تحلیل آینده‌پژوهانه هم‌گرایی هوش مصنوعی، فناوری نانو و فناوری اطلاعات در مسیر تحول صنعتی آینده
  13. نقش تحول دیجیتال در خدمات کتابخانه‌های عمومی برای توان‌یابان جسمی و ذهنی
  14. Prediction and Optimization of Oxygen Production under Microgravity Conditions Using Machine Learning
  15. Simulation and Performance Comparison of Ultrasonic, Non-Contact Radar, and Guided Wave Radar Sensors in Level Measurement Systems