شبکه عصبی خودهمبسته (Autoencoder)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی خودهمبسته (Autoencoder) :
خودهمبسته (Autoencoder) یک شبکه عصبی بدون ناظر است که برای یادگیری بازنمایی فشرده (رمزنگاری) از داده ها به کار می رود. هدف آن بازسازی ورودی در خروجی است، به طوری که ورودی و خروجی تا حد ممکن شبیه هم باشند.
ساختار خودهمبسته از دو بخش تشکیل شده: رمزگذار (encoder) که ورودی را به فضای پنهان با ابعاد کمتر می برد و رمزگشا (decoder) که از آن نمایش فشرده، ورودی اصلی را بازسازی می کند.
فرمول ساده:
\[ \mathbf{h} = f(\mathbf{W}_e \mathbf{x} + \mathbf{b}_e) \] \[ \hat{\mathbf{x}} = g(\mathbf{W}_d \mathbf{h} + \mathbf{b}_d) \]تابع هزینه معمولا میانگین مربعات خطا (MSE) بین
\[ \mathbf{x} \]و
\[ \hat{\mathbf{x}} \]است:
\[ \mathcal{L} = \|\mathbf{x} - \hat{\mathbf{x}}\|^2 \].
خودهمبسته ها برای کاهش ابعاد (مشابه PCA اما غیرخطی)، استخراج ویژگی، و یادگیری بازنمایی استفاده می شوند. انواع مختلفی دارند: خودهمبسته تنک (با جریمه تنکی)، خودهمبسته رفع نویز (با ورودی خراب شده)، و خودهمبسته تغییرپذیر (VAE) که مدل زایشی است.
خودهمبسته تنک با افزودن قید تنکی روی لایه پنهان، باعث می شود تنها تعداد کمی از نرون ها فعال باشند و ویژگی های معنادارتری یاد بگیرد.
خودهمبسته رفع نویز: ورودی نویزدار داده می شود و هدف بازسازی ورودی تمیز است. این کار باعث می شود شبکه ویژگی های مقاوم تری یاد بگیرد.
کاربردها: کاهش نویز تصاویر، تشخیص ناهنجاری (چون autoencoder برای داده های نرمال بازسازی خوب و برای ناهنجاری بد بازسازی می کند)، پیش آموزش لایه ها در شبکه های عمیق.
خودهمبسته تغییرپذیر (VAE) یک مدل زایشی است که نه تنها فشرده سازی می کند، بلکه می تواند داده جدید مشابه داده های آموزشی تولید کند. این کار با یادگیری توزیع احتمالی فضای پنهان انجام می شود.
خودهمبسته ها پایه بسیاری از مدل های پیشرفته مانند شبکه های مولد متخاصم (GAN) و مدل های انتشار (diffusion) هستند.
