به گزارش «روابط عمومی پژوهشگاه علوم و فناوری اطلاعات ایران» سومین نشست از سلسله نشست‌های اخلاق پژوهش در خدمت توسعه علم و فناوری با موضوع «هوش‌ مصنوعی و طراحی حساس به ارزش؛ نگاهی به اخلاق سیاست‌گذاری در حوزه هوش مصنوعی» و با سخنرانی دکتر کیوان الستی، عضو هیئت علمی مرکز تحقیقات سیاست علمی کشور، سه‌شنبه 15 اسفند 1402 برگزار شد.

توسعه سیستم‌های مجهز به هوش‌ مصنوعی، مسائل اخلاقی متعددی را به میان کشیده است؛ از جمله اطلاعات، فیلم‌ها و عکس‌های جعلی، بازارکار انسان‌ها که با ماشین‌های خودگردان جایگزین می‌شود، سوگیری‌های الگوریتمی، مخدوش‌شدن حریم‌ خصوصی و شکافی که در مسئولیت ایجاد شده است. این مسائل اخلاقی حاکی از فقدان برخی ارزش‌های اخلاقی در این تکنولوژی است.

رویکرد طراحی حساس به ارزش (Value Sensitive Design: VSD) برای این هدف معرفی شده است تا ارزش‌های اخلاقی را به نحو نظام‌مندی در طراحی‌های مهندسی (از جمله درخصوص هوش‌ مصنوعی) وارد کند. طراحی حساس به ارزش تلاش می‌کند ارزش‌ها را به هنجارها و هنجارها را به الزامات طراحی (که در مصنوعات تکنولوژیکی تعبیه خواهند شد) ترجمه کند. به عنوان مثال ارزشی همانند حفظ حریم خصوصی به نحوی است که می‌توان از آن، هنجار حق پاک‌کردن اطلاعات، را استخراج کرد و الزام طراحی که می‌تواند این هنجار را متحقق کند (مثلا) امکان حذفِ داده‌هایِ دلخواه از ذخیره یا پشتیبان آن خواهد بود.  

در مورد سیستم‌های مجهز به هوش‌ مصنوعی خودگردان، مسائل به صورت خاص‌تری وجود دارد. این تکنولوژی‌ها قادرند تغییراتی ایجاد کنند که اگر توسط انسان انجام شده بود نام «تصمیم» بر آن گذاشته می‌شد و اگر این «تصمیمات» خسارتی به بار می‌آورد، انسانی مسئول، پاسخگو یا مدیون می‌شد. اما در شرایط حضور اسلحه‌های خودگردان، این تغییرات و آسیب‌ها ممکن است در شرایطی ایجاد شوند که هیچ کسی (یا چیزی) مسئول قلمداد نشود. این مساله با عنوان «شکاف مسئولیت» شناخته می‌شود. لذا اگر مسئولیت و پاسخ‌گویی را نوعی از ارزش قلمداد کنیم، آنگاه سوال طراحی حساس به ارزش این خواهد بود که چگونه می‌توان سیستمی مجهز به هوش‌مصنوعی طراحی کرد که بتوان به آن مسئولیت نسبت داد.

اموری که توسط هوش‌ مصنوعی خودگردان انجام می‌شود (در نهایت) بدون دخالت (هرچند دورتر) انسان‌ها نیست. و حضور افراد انسانی در زنجیره تصمیم این امید را ایجاد می‌کند که شاید بتوان به آن فرد انسانی (Human in the loop) مسئولیت نسبت داد. با این حال روشن است که این تنها در صورتی امکان‌پذیر خواهد بود که فرد انسانی توانایی کنترل موضوعی را که نسبت به آن مسئول است داشته باشد.

طراحی حساس به ارزش در مورد تکنولوژی‌های خودگردان نتیجه گرفته است که در صورتی می‌تواند تحت کنترل انسان باقی بماند (و در صورتی می‌توان به مجموعه انسان و ماشین خودگردان مسئولیت نسبت داد) که سازوکار آن به نحوی طراحی شده باشد که دارای دو الزام طراحی خاص باشد: 1- قابلیت این را داشته باشد که دلایل انسانی را «ردگیری» کند؛ 2- با «ردیابی» زنجیره دلایل انسانی به یک فرد انسانی متصل شود.  

گفتنی است سلسله نشست‌های اخلاق پژوهش در خدمت توسعه علم و فناوری با همکاری مرکز نشر دانشگاهی و پژوهشگاه علوم و فناوری اطلاعات ایران، با هدف گسترش و ترویج ارزش‌های اخلاقی در پژوهش‌های علمی و دانشگاهی برگزار می‌شود.

افزودنی است سخنرانی چهارم این سلسله نشست‌ها سه‌شنبه چهارم اردیبهشت ۱۴۰3 از ساعت 17 تا 18:30 برگزار خواهد شد. عنوان این سخنرانی در سال جدید اطلاع‌رسانی خواهد شد. این نشست‌ها برای دانشجویان، استادان، پژوهشگران و علاقمندان، به صورت آزاد و رایگان است.