کنفرانس بین المللی فناوری اطلاعات و دانش

English

صفحه اصلی / شانزدهمین کنفرانس بین المللی فناوری اطلاعات و دانش

A Framework for Systematic Stability Assessment of Post-hoc Explanations in Text Classification

نویسندگان :

Parman Mohammadalizadeh¹ Parham Mohammadalizadeh² Ayda Mahmoudian³

1- دانشگاه زنجان 2- پژوهشگر مستقل 3- پژوهشگر مستقل

کلمات کلیدی :

Explainable AI،Explainability Evaluation،Natural Language Processing

چکیده :

Post-hoc explanation methods are widely adopted for interpreting neural text classifiers, yet lack standardized evaluation of their stability under input perturbations. We present a systematic framework for assessing explanation stability through three categories of stress tests: preprocessing variations, semantic paraphrasing, and explainer seed variations. The framework combines quantitative metrics (Jaccard similarity, Spearman correlation, attribution differences) with automated stability card generation for standardized reporting. We evaluate Integrated Gradients, LIME, and SHAP across four model-dataset combinations spanning sentiment analysis and topic classification. Results reveal nuanced stability patterns, including the decoupling of model capacity from explanation reliability and architecture-dependent vulnerability to perturbation types. Our open-source implementation supports standard transformer models and explanation libraries, establishing practical stability assessment as a reproducible evaluation standard for NLP explainability research.

لیست مقالات

لیست مقالات بایگانی شده

پیش‌بینی بستری مجدد بیماران با استفاده از استخراج مفاهیم زیست‌پزشکی از متون بالینی

فهیمه شاهرخ شهرکی - رسول سامانی - دکتر ناصر قدیری فهیمه شاهرخ شهرکی - رسول سامانی - ناصر قدیری -

آسیب شناسی استقرار بلاک‌چین در صنعت بانکی کشور ایران

نیلوفر مرادحاصل

پیش‌بینی میزان بقای بیماران مبتلا به سرطان ریه با استفاده از ترکیب کارآمد روش‌های داده‌کاوی و بهینه‌سازی رقابت استعماری

رخشان رمضانی سرچشمه - مهدی هاشم‌زاده - امین گلزاری اسکوئی

ارائه تکنیک یادگیری چندهسته ای مبتنی بر روش بهینه سازی برای مسئله دسته بندی سیگنال های EEG مبتنی بر تصور حرکتی

یوکابد امیری - حسام عمرانپور

Hardware Imperfection Effects in Wireless Virtual Reality System with Hybrid Beamforming

Nasim Alikhani - Abbas Mohammadi

مکان‌یابی خطاهای کاربردها و خدمات نرم‌افزاری با کمک تولید داده آزمون با نامتغیرهای محتمل

محمد نصرتی مقدم - حسن حقیقی - مجتبی وحیدی اصل

Benchmarking Embedding Models for Persian-Language Semantic Information Retrieval

Mahmood Kalantari - Mehdi Feghhi - Nasser Mozayani

تخلیه‌ی باری وظایف اینترنت اشیاء بر روی مه محاسباتی با استفاده از الگوریتم حشره آبسوار

عفت تقی زاده بیلندی - آرش دلداری - علیرضا صالحان

A parallel approach to the fractional time delay model for predicting the spread of COVID-19

Mahdi Movahedian Moghaddam - Kourosh Parand

Movable Antenna Design for UAV-Aided Federated Learning via Deep Reinforcement Learning

MOHSEN Ahmadzadeh - Saeid Pakravan - Ghosheh Abed Hodtani

بیشتر

ثمین همایش، سامانه مدیریت کنفرانس ها و جشنواره ها - نگارش 42.5.2