شبکه عصبی با ماتریس وزن مثبت (Nonnegative Neural Network)، در ریاضیات (Mathematics)

انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :

شبکه عصبی با ماتریس وزن مثبت (Nonnegative Neural Network) :

در این شبکه، تمام وزن ها (و گاهی فعال سازی ها) محدود به مقادیر غیرمنفی (≥0) هستند. این محدودیت باعث می شود شبکه یک نگاشت مثبت (positive mapping) یاد بگیرد که در برخی کاربردها مانند تحلیل داده های غیرمنفی (تصاویر، طیف ها) و مدل سازی سیستم هایی که ورودی و خروجی ماهیتا غیرمنفی دارند، مفید است. همچنین می تواند منجر به تفسیرپذیری بیشتر شود (چون وزن ها نشان دهنده میزان مشارکت مثبت هستند).

روش های آموزش: استفاده از توابع فعال سازی غیرمنفی (مانند ReLU) در لایه های پنهان (که خود خروجی غیرمنفی می دهد) و اعمال تابعی مانند softplus یا clip روی وزن ها برای مثبت نگه داشتن آن ها. Nonnegative Matrix Factorization (NMF) یک نمونه خطی از این ایده است.