روش نیوتن (Newton's Method)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
روش نیوتن (Newton's Method) :
📌 معرفی
روش نیوتن (Newton's Method) یک روش قدرتمند مبتنی بر مشتق دوم برای یافتن نقاطی است که گرادیان صفر دارند (نقاط بحرانی). این روش از تقریب درجه دوم تابع استفاده می کند.
📐 استخراج فرمول
با بسط تابع حول نقطه فعلی تا جمله درجه دوم:
\[ f(x_k + d) \approx f(x_k) + \nabla f(x_k)^T d + \frac{1}{2} d^T \nabla^2 f(x_k) d \]با مشتق گیری نسبت به
\[ d \]و مساوی صفر قرار دادن، جهت نیوتن به دست می آید:
\[ d_k^N = -[\nabla^2 f(x_k)]^{-1} \nabla f(x_k) \]و سپس:
\[ x_{k+1} = x_k + d_k^N \]⚡ ویژگی ها
همگرایی درجه دوم (Quadratic Convergence): در همسایگی جواب، سرعت همگرایی بسیار بالاست.
نیاز به مشتق دوم: محاسبه ماتریس هسین (Hessian) و معکوس آن پرهزینه است.
حساسیت به نقطه شروع: اگر نقطه شروع دور از جواب باشد، ممکن است واگرا شود.
برای توابع درجه دوم، در یک گام به جواب می رسد.
نویسنده علیرضا گلمکانی
شماره کلید 8763
گزینه ها 
نظرات 0 0 0