شبکه عصبی با نرم کنندگی (Smooth Neural Network)، در ریاضیات (Mathematics)

انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :

شبکه عصبی با نرم کنندگی (Smooth Neural Network) :

شبکه عصبی با نرم کنندگی (Smooth Neural Network) شبکه ای است که تابع خروجی آن نسبت به ورودی هموار (دارای مشتقات پیوسته) است. این ویژگی با استفاده از توابع فعال سازی هموار (مانند سیگموئید، tanh، Swish، GELU) به جای توابع ناهموار (مانند ReLU) حاصل می شود. شبکه های هموار برای مسائلی که نیاز به مشتق گیری دارند (مانند PINNها، بهینه سازی با گرادیان های مرتبه بالا) مفید هستند و می توانند رفتار پایدارتری داشته باشند.