طرحریزی مدل مفهومی رابطه میان حکمرانی هوش مصنوعی با بلوغ پاسخگویی سازمانی

طرحریزی مدل مفهومی رابطه میان حکمرانی هوش مصنوعی با بلوغ پاسخگویی سازمانی

سید علی فارغ1 کوثر امیرزاده فرد2

1) عضو هیأت علمی دانشکده معماری و شهرسازی دانشگاه صنعتی جندی شاپور، دزفول، ایران.
2) دانشجوی کارشناسی ارشد طراحی صنعتی دانشکده طراحی دانشگاه هنر اسلامی تبریز، تبریز، ایران.

کد IOI مقاله : AAHD-ABKFFC
محل انتشار : کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده پژوهی فناوری (itnaf.ir)
چکیده :
    گسترش سامانه‌های هوش مصنوعیِ خودمختار، نقش آن‌ها را از ابزارهای پشتیبانِ تصمیم به عامل‌هایی توانا در تحلیل، تصمیم‌گیری، و اقدامِ مستقل تغییر داده است. بخش زیادی از ادبیات هوش مصنوعیِ مسئولیت‌پذیر، به‌طور ضمنی فرض می‌کند توانمندی فنی و پاسخگویی هم‌زمان با هم رشد می‌کنند: هرچه سامانه توانمندتر شود، نظارت و کنترل نیز متناسب با آن گسترش می‌یابد. این مقاله استدلال می‌کند این فرض را نباید مسلّم دانست. با تکیه بر ادبیات شکاف مسئولیت و آثار مفهومیِ حوزه پاسخگویی الگوریتمی، چارچوب «نقطه وارونگی خودمختاری–پاسخگویی» (AAIP) معرفی می‌شود؛ چارچوبی که رابطه میان سطح خودمختاری هوش مصنوعی و بلوغ پاسخگویی سازمانی را غیریکنوا در نظر می‌گیرد: افزایش خودمختاری تا آستانه‌ای مشخص می‌تواند بلوغ پاسخگویی را افزایش دهد، اما فراتر از آن آستانه، در نبود سرمایه‌گذاری متناسب در سازوکارهای نظارتی، افزایش بیشتر خودمختاری با کاهش بلوغ پاسخگویی همراه خواهد بود. بلوغ پاسخگویی در این چارچوب تابعی مشترک از سه مؤلفه دانسته می‌شود: ردیابی‌پذیریِ تصمیم، منازعه‌پذیری، و ظرفیت اصلاحی. این مقاله سهمی نظری–مفهومی است که از طریق تحلیل مفهومی و ترکیب ادبیات حکمرانی هوش مصنوعی و پاسخگویی الگوریتمی ساخته شده و ادعای خود را به‌صورت تجربی نمی‌آزماید. چارچوب AAIP به‌عنوان عدسی تحلیلی برای ارزیابی مرزهای مطلوب استقلال سامانه‌ای پیشنهاد می‌شود و شرایط لازم برای عملیاتی‌سازیِ تجربیِ آن، پیش از اثبات قطعیِ ادعاهایش، به‌روشنی مشخص شده است.

کلمات کلیدی : خودمختاری هوشمند حکمرانی هوش مصنوعی پاسخگویی سازمانی شکاف مسئولیت نظارت انسانی