شبکه عصبی رگرسیون عمومی (General Regression Neural Network - GRNN)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی رگرسیون عمومی (General Regression Neural Network - GRNN) :
شبکه عصبی رگرسیون عمومی (GRNN) توسط اسپکت در سال ۱۹۹۱ معرفی شد و یک تعمیم از PNN برای مسائل رگرسیون (پیش بینی مقادیر پیوسته) است. GRNN بر اساس تخمین چگالی احتمال شرطی
\[ E[y|x] \]با استفاده از روش پارزن (kernel regression) عمل می کند. ساختار آن شبیه PNN با چهار لایه است، اما در لایه خروجی، خروجی به جای کلاس، یک مقدار پیوسته است.
فرمول تخمین در GRNN:
\[ \hat{y}(x) = \frac{\sum_{i=1}^{N} y_i \exp\left(-\frac{\|x - x_i\|^2}{2\sigma^2}\right)}{\sum_{i=1}^{N} \exp\left(-\frac{\|x - x_i\|^2}{2\sigma^2}\right)} \]که
\[ x_i \]و
\[ y_i \]نمونه های آموزشی هستند. این فرمول میانگین وزن دار
\[ y_i \]ها است که وزن ها با فاصله
\[ x \]تا
\[ x_i \]به صورت نمایی کاهش می یابند. پارامتر
\[ \sigma \]پهنای هسته را کنترل می کند:
\[ \sigma \]بزرگ باعث هموارسازی زیاد و
\[ \sigma \]کوچک باعث overfitting می شود.
ساختار شبکه:
لایه ورودی: ویژگی ها.
لایه الگو (radial basis layer): هر نرون نشان دهنده یک نمونه آموزشی است و خروجی
\[ D_i^2 = \|x - x_i\|^2 \](یا هسته نمایی) را محاسبه می کند.
لایه جمع (summation layer): دو نرون: یکی جمع
\[ S_s = \sum \exp(-D_i^2 / 2\sigma^2) \]و دیگری جمع وزن دار
\[ S_w = \sum y_i \exp(-D_i^2 / 2\sigma^2) \].
لایه خروجی: تقسیم
\[ S_w / S_s \]برای تخمین
\[ \hat{y} \].
مزایا GRNN: آموزش یک مرحله ای، توانایی مدل سازی توابع غیرخطی، خروجی هموار و پایدار. معایب: نیاز به ذخیره همه داده ها، حساسیت به
\[ \sigma \]، سرعت پایین در آزمون. کاربردها: پیش بینی سری های زمانی، تقریب توابع، کنترل فرآیندها.
