شبکه عصبی بازگشتی با حافظه (Memory-Enhanced RNN)، در ریاضیات (Mathematics)

انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :

شبکه عصبی بازگشتی با حافظه (Memory-Enhanced RNN) :

این دسته شامل RNNهایی است که دارای مکانیزم حافظه اضافی (فراتر از حالت پنهان) هستند. LSTM و GRU نمونه هایی از RNNهای با حافظه هستند (با سلول حافظه و گیت ها). همچنین RNNهای مجهز به حافظه خارجی (مانند NTM و DNC) در این دسته قرار می گیرند. هدف رفع محدودیت RNNهای ساده در نگهداری اطلاعات بلندمدت است.

حافظه می تواند به صورت داخلی (مانند LSTM) یا خارجی (مانند NTM) باشد. این مدل ها در کارهایی مانند ترجمه ماشینی، مدل سازی زبان، و پاسخ به سوال عملکرد برتری دارند.