شبکه عصبی جراحی شده (Pruned Neural Network)، در ریاضیات (Mathematics)

انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :

شبکه عصبی جراحی شده (Pruned Neural Network) :

شبکه عصبی جراحی شده (Pruned Neural Network) حاصل فرآیند برش (pruning) است. برش به معنای حذف وزن ها، نورون ها، فیلترها، یا حتی لایه هایی است که تأثیر کمی بر خروجی دارند. این کار می تواند به صورت ناهمسان (unstructured) که وزن های منفرد حذف می شوند (ایجاد ماتریس تنک) یا ساختاری (structured) که کل فیلترها یا کانال ها حذف می شوند، انجام شود. برش ساختاری برای افزایش سرعت واقعی روی سخت افزار بهتر است (زیرا ماتریس های تنک نیاز به کتابخانه های خاص دارند).

روش های برش: می تواند بعد از آموزش (post-training) یا در حین آموزش (iterative) انجام شود. معیار برش معمولا اندازه وزن ها (مقدار مطلق) یا تأثیر بر تابع هزینه (مثلا با مشتق مرتبه دوم) است.