شبکه عصبی احتمالاتی (Probabilistic Neural Network - PNN)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی احتمالاتی (Probabilistic Neural Network - PNN) :
شبکه عصبی احتمالاتی (PNN) توسط اسپکت در سال ۱۹۹۰ معرفی شد و یک نوع شبکه عصبی پیش خور با چهار لایه است که برای طبقه بندی بر اساس تخمین چگالی احتمال (PDF) با استفاده از روش پارزن (Parzen window) طراحی شده. PNN یک طبقه بند بیزین است که با تقریب تابع چگالی احتمال هر کلاس با مجموع هسته های گاوسی، احتمال پسین را تخمین می زند و نمونه را به کلاسی با بیشترین احتمال نسبت می دهد.
ساختار PNN شامل لایه های زیر است:
لایه ورودی: هر نرون یک ویژگی از داده را دریافت می کند.
لایه الگو (pattern layer): به ازای هر نمونه آموزشی یک نرون وجود دارد. هر نرون خروجی
\[ \exp(-\|x - x_i\|^2 / 2\sigma^2) \]را محاسبه می کند (هسته گاوسی).
لایه جمع (summation layer): به ازای هر کلاس یک نرون وجود دارد که خروجی های نرون های الگوی مربوط به آن کلاس را جمع می زند (تخمین چگالی احتمال آن کلاس).
لایه خروجی (decision layer): کلاس با بیشترین مقدار (بزرگترین تخمین چگالی) را انتخاب می کند.
فرمول تخمین چگالی برای کلاس
\[ c \]:
\[ f_c(x) = \frac{1}{(2\pi)^{p/2}\sigma^p N_c} \sum_{i \in c} \exp(-\|x - x_i\|^2 / 2\sigma^2) \]که
\[ p \]بعد داده و
\[ N_c \]تعداد نمونه های کلاس
\[ c \]است. سپس قانون تصمیم:
\[ \hat{y} = \arg\max_c f_c(x) \].
مزایا PNN: آموزش بسیار سریع (یک مرحله ای، بدون نیاز به پس انتشار)، توانایی تولید خروجی احتمالاتی، تفسیرپذیری مبتنی بر آمار بیز. معایب: نیاز به نگهداری تمام نمونه های آموزشی (حافظه بالا)، وابستگی شدید به انتخاب
\[ \sigma \](پارامتر هموارسازی)، سرعت پایین در مرحله آزمون (چون باید فاصله تا همه نمونه ها محاسبه شود).
کاربردها: طبقه بندی الگوها، تشخیص ناهنجاری، مسائلی که نیاز به تفسیر احتمالاتی دارند. با افزایش داده ها، PNN غیرعملی می شود.