سیستم های شبکه های عصبی (Neural Network Systems)، در ریاضیات (Mathematics)
انواع سیستم های دینامیکی (Dynamical Systems را در آموزش زیر شرح دادیم :
سیستم های شبکه های عصبی (Neural Network Systems) :
شبکه های عصبی (neural networks) مدل های محاسباتی الهام گرفته از مغز هستند که از تعداد زیادی واحد پردازش ساده (نرون های مصنوعی) تشکیل شده اند. این سیستم ها دینامیک خاص خود را دارند، به خصوص در شبکه های عصبی بازگشتی (recurrent neural networks - RNN) که در آن ها اتصالات بازگشتی وجود دارد. دینامیک یک شبکه عصبی بازگشتی معمولا با یک دستگاه معادلات دیفرانسیل (برای زمان پیوسته) یا معادلات تفاضلی (برای زمان گسسته) توصیف می شود:
\[ \tau_i \frac{du_i}{dt} = -u_i + \sum_{j=1}^n w_{ij} \phi(u_j) + I_i \]که در آن
\[ u_i \]پتانسیل غشای نرون
\[ i \]،
\[ w_{ij} \]وزن سیناپسی از نرون
\[ j \]به
\[ i \]،
\[ \phi \]تابع فعال سازی (غیرخطی، مانند تابع سیگموئید)،
\[ I_i \]ورودی خارجی، و
\[ \tau_i \]ثابت زمانی است.
این سیستم های دینامیکی می توانند رفتارهای پیچیده ای از جمله همگرایی به نقاط ثابت (برای حافظه های جاذب)، نوسانات، و آشوب از خود نشان دهند. شبکه های عصبی بازگشتی به عنوان حافظه های جاذب (مثل شبکه هاپفیلد) برای بازیابی اطلاعات و همچنین برای مدل سازی دینامیک مغز به کار می روند. پایداری این شبکه ها با استفاده از توابع لیاپانوف (مانند تابع انرژی در شبکه هاپفیلد) تحلیل می شود. امروزه، RNNهای عمیق (مانند LSTM) کاربردهای گسترده ای در پردازش زبان طبیعی، پیش بینی سری های زمانی، و رباتیک دارند، اگرچه تحلیل دینامیکی آن ها اغلب به دلیل پیچیدگی بالا با چالش مواجه است.
