شبکه عصبی تصادفی (Stochastic Neural Network)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی تصادفی (Stochastic Neural Network) :
شبکه عصبی تصادفی (Stochastic Neural Network) به شبکه هایی اطلاق می شود که دارای عناصر تصادفی (نویز) در ساختار یا خروجی خود هستند. این تصادفی بودن می تواند به چند شکل ظاهر شود: (۱) نویز به ورودی یا حالت های پنهان اضافه شود (مانند dropout که یک نویز ضربی است). (۲) نورون ها خروجی احتمالاتی (مثلا با توزیع برنولی) داشته باشند (مانند ماشین بولتزمن). (۳) وزن ها تصادفی باشند و ثابت بمانند (مانند ELM). (۴) از تکنیک های بیزی برای توزیع روی وزن ها استفاده شود (شبکه های عصبی بیزی).
هدف از افزودن تصادفی بودن می تواند منظم سازی (regularization)، افزایش مقاومت، یا مدل سازی عدم قطعیت باشد. به عنوان مثال، dropout با غیرفعال کردن تصادفی نورون ها، از overfitting جلوگیری می کند. شبکه های بیزی با در نظر گرفتن عدم قطعیت در وزن ها، پیش بینی های قابل اعتمادتری همراه با فاصله اطمینان ارائه می دهند.
ماشین های بولتزمن (و RBM) نمونه های کلاسیک شبکه های تصادفی هستند که حالت نورون ها به صورت احتمالاتی از توزیع گیبس نمونه برداری می شود. امروزه، شبکه های عصبی بیزی و روش های مونت کارلو dropout کاربرد زیادی در تخمین عدم قطعیت دارند.
کاربردها: منظم سازی، مدل سازی عدم قطعیت، یادگیری تقویتی (برای اکتشاف)، سیستم های ایمن-بحرانی.
