شبکه عصبی لگاریتمی (Logarithmic Neural Network)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی لگاریتمی (Logarithmic Neural Network) :
شبکه عصبی لگاریتمی (Logarithmic Neural Network) به شبکه ای گفته می شود که در آن از توابع لگاریتمی به عنوان تابع فعال سازی یا در تابع هزینه استفاده می شود. لگاریتم در تابع هزینه آنتروپی متقاطع (cross-entropy) نقش اساسی دارد. همچنین ممکن است ورودی ها قبل از ورود به شبکه با لگاریتم تبدیل شوند (مانند داده های با توزیع نمایی).
در شبکه های عصبی برای مدل سازی داده های مثبت و با مقیاس بزرگ (مثل تعداد دفعات، شدت زلزله)، گاهی از تابع فعال سازی
\[ \log(1+e^x) \](softplus) استفاده می شود که تقریبی از ReLU است. اما لگاریتم خالص (مثلا
\[ \log(x) \]) در لایه های پنهان کمتر استفاده می شود (به دلیل دامنه تعریف محدود به
\[ x>0 \]).
کاربردها: مسائلی که در آن داده ها در مقیاس لگاریتمی معنا دارند (مثل بلندی صدا در دسی بل، بزرگی زلزله).
