روش توالی برنامه ریزی درجه دوم (Sequential Quadratic Programming - SQP)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
روش توالی برنامه ریزی درجه دوم (Sequential Quadratic Programming - SQP) :
📌 معرفی
روش SQP (Sequential Quadratic Programming) یکی از قدرتمندترین و پرکاربردترین روش ها برای حل مسائل برنامه ریزی غیرخطی مقید (NLP) است. در این روش، در هر تکرار یک زیرمسئله برنامه ریزی درجه دوم (QP) که تقریبی از مسئله اصلی است، حل می شود.
📐 فرمول بندی
در هر تکرار k، با استفاده از تقریب درجه دوم تابع لاگرانژ، زیرمسئله QP زیر حل می شود:
\[ \min_d \quad \nabla f(x_k)^T d + \frac{1}{2} d^T B_k d \] \[ \text{s.t.} \quad \nabla g_i(x_k)^T d + g_i(x_k) \leq 0, \quad i=1,\ldots,m \] \[ \quad \nabla h_j(x_k)^T d + h_j(x_k) = 0, \quad j=1,\ldots,p \]که
\[ B_k \]تقریبی از ماتریس هسین لاگرانژین است (معمولا با روش های شبه-نیوتن مانند BFGS به روزرسانی می شود).
🔧 مراحل الگوریتم
حل زیرمسئله QP برای یافتن جهت جستجو
\[ d_k \]و تخمین ضرایب لاگرانژ.
تعیین اندازه گام با یک جستجوی خطی (با استفاده از تابع جریمه ای مانند L1 Penalty Function).
به روزرسانی نقطه:
\[ x_{k+1} = x_k + \alpha_k d_k \].
به روزرسانی ماتریس
\[ B_k \](مثلا با BFGS).
تکرار تا همگرایی.
📈 ویژگی ها
همگرایی سریع: دارای نرخ همگرایی ابرخطی یا درجه دوم.
کارایی بالا: یکی از بهترین روش ها برای مسائل NLP با ابعاد کوچک و متوسط.
پیچیدگی: نیاز به حل یک زیرمسئله QP در هر تکرار دارد.
