شبکه عصبی پایدار در برابر حمله (Adversarially Robust Neural Network)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی پایدار در برابر حمله (Adversarially Robust Neural Network) :
شبکه عصبی پایدار در برابر حمله (Adversarially Robust Network) به شبکه ای گفته می شود که در برابر حملات تخاصمی (adversarial attacks) مقاوم است. حملات تخاصمی با افزودن نویزهای کوچک اما هدفمند به ورودی، باعث تغییر پیش بینی شبکه می شوند. برای افزایش پایداری، روش هایی مانند آموزش تخاصمی (adversarial training) استفاده می شود: در هر گام آموزش، نمونه های تخاصمی تولید و به داده های آموزشی اضافه می شوند.
روش های دیگر شامل نرمال سازی طیفی (spectral normalization) برای کنترل ثابت لیپشیتس شبکه (که تضمین می کند تغییرات کوچک در ورودی منجر به تغییرات بزرگ در خروجی نشود) و توزیع نرم (smoothing) خروجی است. پایداری تخاصمی یک حوزه مهم تحقیقاتی برای امنیت مدل های یادگیری عمیق است.
فرمول آموزش تخاصمی:
\[ \min_\theta \mathbb{E}_{(x,y)} [ \max_{\|\delta\| \le \epsilon} L(f_\theta(x+\delta), y) ] \]. یعنی شبکه باید در برابر بدترین حالت نویز در یک همسایگی کوچک مقاوم باشد.
