شبکه عصبی با معادلات دیفرانسیل معمولی تاخیری (Neural Delay Differential Equation Network)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی با معادلات دیفرانسیل معمولی تاخیری (Neural Delay Differential Equation Network) :
این شبکه تعمیمی از Neural ODE به معادلات دیفرانسیل با تاخیر (Delay Differential Equations - DDE) است. در بسیاری از سیستم های فیزیکی و زیستی، تغییرات یک متغیر به وضعیت فعلی و همچنین وضعیت در یک زمان گذشته بستگی دارد (مثلا در دینامیک جمعیت، یا کنترل با تاخیر). یک DDE به صورت
\[ \frac{dh(t)}{dt} = f(h(t), h(t-\tau), t, \theta) \]تعریف می شود که
\[ \tau \]تاخیر است.
در Neural DDE، شبکه
\[ f \]توسط یک شبکه عصبی مدل می شود و معادله با روش های عددی مناسب برای DDEها (که نیاز به ذخیره تاریخچه دارند) حل می گردد. آموزش نیز با روش های حساسیت (adjoint) قابل تعمیم است، اما به دلیل وابستگی به تاریخچه، پیچیده تر است.
کاربردها: مدل سازی سیستم های بیولوژیکی (مثلا انتقال نورون ها با تاخیر سیناپسی)، سیستم های کنترل با تاخیر، شبکه های بازگشتی با تاخیر زمانی. این مدل ها می توانند دینامیک های پیچیده تری نسبت به Neural ODE مدل کنند.
مزایا: توانایی مدل سازی پدیده های وابسته به تاخیر. معایب: پیچیدگی محاسباتی بیشتر، نیاز به روش های عددی خاص.
