تحلیل جامع و سیستماتیک آسیب‌پذیری‌های امنیتی در پروتکل‌های واترمارکینگ مدل‌های هوش مصنوعی مولد

تحلیل جامع و سیستماتیک آسیب‌پذیری‌های امنیتی در پروتکل‌های واترمارکینگ مدل‌های هوش مصنوعی مولد

حسین شیخی1 احسان سلیمانی دهکردی2

1) دانشجوی کارشناسی مهندسی کامپیوتر، دانشگاه ملی مهارت شهرکرد، چهارمحال و بختیاری، ایران
2) دانشجوی دکتری مهندسی کامپیوتر، دانشگاه آزاد اسلامی، واحد میبد، یزد، ایران

کد IOI مقاله : AAHD-ABBDHA
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    با ظهور پارادایم هوش مصنوعی مولد و گسترش مدل‌های زبانی بزرگ (LLMs) و مدل‌های انتشار (Diffusion Models)، چالش‌های امنیتی و اخلاقی نوظهوری همچون نقض مالکیت معنوی و اشاعه اطلاعات غلط پدید آمده است. اگرچه واترمارکینگ دیجیتال به‌عنوان راهکاری محوری برای اثبات اصالت و ردیابی منشأ محتوا مطرح شده، اما این پژوهش نشان می‌دهد که پروتکل‌های فعلی در برابر حملات خصمانه (Adversarial Attacks) به‌شدت آسیب‌پذیر هستند. در این مقاله، با اتخاذ رویکردی فنی و ریاضیاتی، مکانیسم‌های شکست واترمارک در دو حوزه متن و تصویر کالبدشکافی شده است. یافته‌ها حاکی از آن است که حملات نوین نظیر بازنویسی مبتنی بر خود-اطلاعاتی (SIRA) در متن و حملات بازسازی (Regeneration) در تصویر، قادرند با بهره‌گیری از ویژگی‌های آماری خودِ مدل‌های مولد، سیگنال‌های امنیتی را بدون افت کیفیت ادراکی حذف یا جعل کنند. در نهایت، با استناد به قضیه عدم امکان (Impossibility Theorem) و نتایج بنچمارک WAVES، اثبات می‌شود که امنیت مبتنی بر مخفی‌کاری در فضای فعلی ناکارآمد بوده و ضرورت گذار به سمت واترمارکینگ معنایی و امضاهای رمزنگاری‌شده اجتناب‌ناپذیر است.

کلمات کلیدی : هوش مصنوعی مولد واترمارکینگ دیجیتال حملات خصمانه مدل‌های زبانی بزرگ مدل‌های انتشار حمله