با بزرگتر و پیچیدهتر شدن سیستمهای هوش مصنوعی نیاز طراحان و توسعهدهندگان این سیستمها به شفافیت سیستمها و تصمیمات اتخاذ شده توسط آنها افزایش یافته و برای پاسخ به این نیاز، مفهوم هوش مصنوعی توضیحپذیر یا eXplainable AI (XAI) از سال 2016 به صورت جدی مطرح شده است. برای دستیابی به XAI دو رویکرد کلان وجود دارد: بازگشت به مدلهای سادهتر و قابل فهمتر و یا بکارگیری سیستمهای توضیحپذیر. در رویکرد نخست، از مدلهای سادهتر با کارایی کمتر نظیر درخت تصمیم استفاده میشود و در مقابل در رویکرد دوم، سیستمهایی توسعه مییابند که توضیحپذیر باشند. با کمک چنین سیستمی کاربر میتواند تقاضای توضیح کند؛ رفتار سیستم را درک و پیشبینی نماید؛ و در نهایت اعتماد او به نتایج افزایش مییابد. سیستمهای پیشنهاددهنده، به دلیل تعامل و ارتباط مستقیم با کاربر، از سیستمهای هوشمندی هستند که از مزایای پیادهسازی سیستمهای توضیحپذیر بهره بسیار خواهند برد. براین مبنا، طرح پژوهشی حاضر با عنوان «طراحی سیستم پیشنهاددهنده محتوا محور توضیحپذیر برای پیشنهاد مستندات علمی به زبان فارسی در پایگاه اطلاعات علمی ایران (گنج)» پیشنهاد میشود. براین اساس ابتدا که با کمک آن سیستم پیشنهاددهنده محتوا محور ارائه شده در طرح (زرینبال، مجبی، 1402) توضیحپذیر شود. به بیانی دیگر، در این طرح ابتدا رویکردهای طراحی سیستمهای هوشمند توضیحپذیر موجود در ادبیات بررسی شده و سپس مدلی برای توضیح چرایی پیشنهادهای ارائه شده به کاربر در سیستم پیشنهاددهنده محتوا محور پایگاه گنج تدوین شده و توسعه مییابد. توسعه این سیستم در قالب زبان برنامهنویسی Python بوده و از دو مجموعه داده با بیش از 34 هزار داده استفاده خواهد شد. نتایج مدل نیز در دو سطح انسانی و عملکردی ارزیابی میشود.
زرینبال ماسوله، مرضیه، آزاده محبی. زودآیند. طراحی سیستم پیشنهاددهنده محتوا محور توضیحپذیر برای پیشنهاد مستندات علمی به زبان فارسی در پایگاه اطلاعات علمی ایران (گنج). تهران: پژوهشگاه علوم و فناوری اطلاعات ایران.
