کنفرانس بین المللی فناوری اطلاعات و دانش

English

صفحه اصلی / شانزدهمین کنفرانس بین المللی فناوری اطلاعات و دانش

Detection of Backdoor Attacks in Neural Networks Using Input Optimization

نویسندگان :

Parsa Hashemi Khorsand¹ Ahmad Nickabadi²

1- Amirkabir University of Technology (Tehran Polytechnic) 2- Amirkabir University of Technology (Tehran Polytechnic)

کلمات کلیدی :

backdoor attacks،adversarial robustness،backdoor detection،model contamination detection،input optimization،regularization

چکیده :

This paper presents a clean-data-free framework for detecting backdoor attacks in neural networks via input optimization. We introduce two complementary strategies. First, joint input optimization with a cleanliness detector: for each label, we optimize an input that simultaneously (i) maximizes the target-label logit on the suspected model and (ii) maintains in-domain naturalness according to an auxiliary diagnostic model; the resulting patterns are then inspected for trigger-like artifacts. Second, input optimization with the largest feasible regularization coefficient: for each label, we find the largest feasible regularization coefficient that still attains a preset confidence threshold, forming a per-class signature vector; Median Absolute Deviation (MAD) is then used to flag outlier labels as compromised. On MNIST, our framework achieves 89.5 percent detection accuracy on backdoored models with 100 percent recall in poisoned-label flagging, while requiring no access to clean training data. We further compare our methods with Neural Cleanse and the Certified Backdoor Detector (CBD).

لیست مقالات

لیست مقالات بایگانی شده

تاثیر مدیریت دانش مشتری بر توسعه محصول جدید و نوآورانه با رویکرد مدل سازی معادلات ساختاری با استفاده از حداقل مربعات جزئی: مطالعۀ موردی شرکت کاله

دکتر آرش خسروی - سیده فاطمه حسینی - دکتر مرتضی رجب زاده آرش خسروی - سیده فاطمه حسینی - مرتضی رجب زاده -

SBST challenges from the perspective of the test techniques

Sepideh Kashefi Gargari - Dr Mohammad Reza Keyvanpour

Fast Online Character Recognition Using a Novel Local-Global Feature Extraction Method

Ayoub Parvizi - Dr Mohammad Kazemifard - Ziba Imani

قطعه بندی خودکار توده کلیه در تصاویر توموگرافی کامپیوتری با استفاده از هم‌افزایی شبکه عصبی عمیق U-Net و الگوریتم فراابتکاری نهنگ

علی خلیلی - محمد مصلح - محمد خیراندیش

استخراج موارد آزمون سطح برون‌متد و درون‌کلاس از برنامه‌های شئ‌‌گرا

محمد قرشی - حسن حقیقی

ارائه یک مدل تصمیم گیری چند معیاره فازی به منظور بهبود دقت فرایند تصمیم گیری به هنگام اختلال هوانوردی

فاطمه عطا عبدالرزاق - نگار مجمع

Targeted Vaccination for COVID-19 Using Mobile Communication Networks

Mohammadmohsen Jadidi - Pegah Moslemi - Saeed Jamshidiha - Iman Masroori - Abbas Mohammadi - Vahid Pourahmadi

رویکرد تطبیقی-ترکیبی در پیاده‌سازی مشارکت الکترونیکی پایدار: درس‌آموخته‌های بین‌المللی و مدل پیشنهادی ایران

عاطفه فرازمند - فاطمه پاک مهر

طراحی و کنترل تطبیقی اورتز رباتیک پایین تنه با استفاده کنترلر منطقی قابل برنامه ریزی و رابط انسان با ماشین

فرهاد عظیمی فر - ستایش کرمی - نیایش امینی

روشی برای بهبود آزمون جهش پیشگویانه با در نظر گرفتن اثر داده های از دست رفته

طه رستمی - دکتر سعید جلیلی طه رستمی - سعید جلیلی -

بیشتر

ثمین همایش، سامانه مدیریت کنفرانس ها و جشنواره ها - نگارش 44.5.0