الگوریتم های جستجوی خطی (Line Search Algorithms)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
الگوریتم های جستجوی خطی (Line Search Algorithms) :
📌 معرفی
الگوریتم های جستجوی خطی (Line Search) جزء جدایی ناپذیر بسیاری از روش های بهینه سازی هستند. پس از تعیین یک جهت جستجو
\[ d_k \]، باید اندازه گام
\[ \alpha_k \]را به گونه ای تعیین کنیم که کاهش کافی در تابع هدف ایجاد شود.
🔢 انواع جستجوی خطی ۱. جستجوی خطی دقیق (Exact Line Search)
یافتن
\[ \alpha \]که تابع تک متغیره
\[ \phi(\alpha) = f(x_k + \alpha d_k) \]را دقیقا کمینه کند. این کار معمولا با روش های بهینه سازی تک متغیره (مانند روش طلایی یا نیوتن) انجام می شود. اما برای مسائل غیرخطی، این کار پرهزینه است.
۲. جستجوی خطی غیردقیق (Inexact Line Search)
یافتن
\[ \alpha \]که شرایط کاهش کافی (Sufficient Decrease) و شرایط خروج از ناحیه صاف (Curvature Condition) را ارضا کند. معروف ترین این شرایط، شرایط ولف (Wolfe Conditions) است.
۳. روش پس گرد (Backtracking Line Search)
ساده ترین روش عملی. با یک
\[ \alpha \]بزرگ شروع کرده و آن را به تدریج کاهش می دهیم تا شرط کاهش کافی (مثلا شرط آرمیخو) برقرار شود.
