شبکه عصبی متراکم (Dense Neural Network)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی متراکم (Dense Neural Network) :
شبکه عصبی متراکم (Dense Neural Network) معمولا به عنوان مترادف برای شبکه کاملا متصل (Fully Connected) به کار می رود. در این نوع شبکه، هر نرون در یک لایه به تمام نرون های لایه بعد متصل است. این در مقابل شبکه های کانولوشنی (با اتصالات محلی) یا شبکه های بازگشتی (با اتصالات بازگشتی) قرار می گیرد. لایه های متراکم (Dense layers) بلوک های اصلی سازنده MLPها هستند.
فرمول یک لایه متراکم:
\[ y = \phi(Wx + b) \]که
\[ W \]ماتریس وزن و
\[ b \]بایاس است. تعداد پارامترها
\[ \text{input\_dim} \times \text{output\_dim} + \text{output\_dim} \]می باشد.
شبکه های متراکم در انتهای CNNها (به عنوان طبقه بند) و در رگرسیون استفاده می شوند. آن ها قدرت زیادی دارند اما با افزایش ابعاد ورودی، تعداد پارامترها به شدت افزایش می یابد و خطر overfitting وجود دارد. به همین دلیل در پردازش تصویر مستقیما روی پیکسل ها استفاده نمی شوند.
