به گزارش «روابط‌ عمومی پژوهشگاه علوم و فناوری اطلاعات ایران» طرح پژوهشی «طراحی سیستم‌ پیشنهاددهنده محتوامحور توضیح‌پذیر برای پیشنهاد مستندات علمی به زبان فارسی در پایگاه اطلاعات علمی ایران (گنج)» توسط دکتر مرضیه زرین‌بال ماسوله و دکتر آزاده محبی، استادیاران پژوهشکده فناوری اطلاعات به پایان رسید.

با بزرگ‌تر و پیچیده‌تر شدن سیستم‌های هوش مصنوعی نیاز طراحان و توسعه‌دهندگان این سیستم‌ها به شفافیت سیستم‌ها و تصمیمات اتخاذ شده توسط آنها افزایش یافته و برای پاسخ به این نیاز، مفهوم هوش مصنوعی توضیح‌پذیر یا eXplainable AI (XAI) از سال 2016 به صورت جدی مطرح شده است. با کمک چنین سیستمی کاربر می‌تواند تقاضای توضیح کند؛ رفتار سیستم‌ را درک و پیش‌بینی نماید؛ و در نهایت اعتماد او به نتایج افزایش می‌یابد. سیستم‌های پیشنهاددهنده، به دلیل تعامل و ارتباط مستقیم با کاربر، از سیستم‌های هوشمندی هستند که از مزایای پیاده‌سازی سیستم‌های توضیح‌پذیر بهره بسیار خواهند برد. براین مبنا، این طرح پژوهشی پیشنهاد شده تا با کمک آن سیستم پیشنهاددهنده محتوامحور ارائه شده در طرح (زرین‌بال، محبی، 1402) توضیح‌پذیر شود.

لذا در این طرح ابتدا سیستم پیشنهاددهنده محتوامحور متنی با توجه به مدل‌های روزآمدتر، بروز شده است. از بین مدل‌های پشتیبانی کننده از زبان فارسی 4 مدل انتخاب و مدل E5 به عنوان مدل کاراتربرگزیده شده است. سپس دو روش SHAP و لنگرها برای توضیح چرایی پیشنهادهای ارائه شده به کاربر در سیستم پیشنهاددهنده محتوامحور پیاده‌سازی و نتایج مقایسه شده است. توسعه این سیستم در قالب زبان برنامه‌نویسی Python بوده و از دو مجموعه داده با بیش از 34 هزار داده استفاده شده است.