مدیریت ریسک، امنیت و پویایی‌های اعتماد در سامانه‌های هوش مصنوعی: تبیین چارچوب AI TRiSM با رویکرد آینده‌پژوهانه

مدیریت ریسک، امنیت و پویایی‌های اعتماد در سامانه‌های هوش مصنوعی: تبیین چارچوب AI TRiSM با رویکرد آینده‌پژوهانه

علیرضا جعفری1 سبا کنزوقی2

1) کارشناس ارشد امنیت اطلاعات
2) کارشناس ارشد امنیت اطلاعات

کد IOI مقاله : AAHD-ACZBHH
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    نفوذ سامانه‌های تصمیم‌گیری خودکار (ADM) در زیرساخت‌های فناوری اطلاعات، پارادایم‌های سنتی امنیت را با چالش‌های پیچیده‌ای مواجه کرده است. در شبکه‌های پویای یادگیری ماشین، رویکردهای امنیتِ ایستا دیگر پاسخگو نیستند؛ از این رو، پژوهش حاضر با هدف واکاوی ابعاد نوین اعتماد به فناوری‌های هوشمند و ارائه راهبردهای پیشگیرانه، به بررسی نسخه تکامل‌یافته چارچوب مدیریت اعتماد، ریسک و امنیت هوش مصنوعی (AI TRiSM) می‌پردازد. این مطالعه با بهره‌گیری از روش کتابخانه‌ای-تحلیلی و مبتنی بر ادبیات آینده‌پژوهی، نشان می‌دهد که گذار از پروتکل‌های امنیتی مرسوم به سمت بازرسی در لحظه (Runtime Inspection) و حاکمیت داده یک الزام ساختاری است. یافته‌های کلیدی حاکی از آن است که تفکیک «قابلیت اطمینان فنی» از «اعتمادِ شناختیِ کاربر» گره‌گشای بسیاری از معماری‌های شکست‌خورده است. در نهایت، ترکیب شفافیت الگوریتمی با معماری امنیت چندلایه، نه تنها ریسک‌های عملیاتی را مهار می‌کند، بلکه با نهادینه‌سازی «اعتماد هوشیارانه»، بستر پایدارتری برای تعامل انسان و ماشین در دهه‌های آتی فراهم می‌آورد.

کلمات کلیدی : هوش مصنوعی امنیت اطلاعات مدیریت ریسک چارچوب ai trism آینده‌پژوهی فناوری اعتماد کاربر