روش هستنس-استیفل (Hestenes-Stiefel Method)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
روش هستنس-استیفل (Hestenes-Stiefel Method) :
📌 معرفی
روش هستنس-استیفل (Hestenes-Stiefel) بر اساس کار اولیه هستنس و استیفل در روش CG خطی (۱۹۵۲) شکل گرفته است. این روش از رابطه ای استفاده می کند که در CG خطی برای محاسبه
\[ \beta \]به کار می رفت.
📐 فرمول به روزرسانی
در روش هستنس-استیفل،
\[ \beta \]به صورت زیر تعریف می شود:
\[ \beta_{k+1}^{HS} = \frac{\nabla f(x_{k+1})^T (\nabla f(x_{k+1}) - \nabla f(x_k))}{d_k^T (\nabla f(x_{k+1}) - \nabla f(x_k))} \]🔧 ویژگی ها
ارتباط با CG خطی: اگر تابع درجه دوم باشد و جستجوی خطی دقیق انجام شود،
\[ \beta^{HS} \]با مقدار CG خطی برابر است.
حساسیت به خطای جستجوی خطی: این روش نسبت به خطاهای جستجوی خطی حساس تر است.
کاربرد: کمتر از دو روش قبلی استفاده می شود، اما پایه نظری مهمی دارد.