روش های ناحیه ی اطمینان (Trust-Region Methods)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
روش های ناحیه ی اطمینان (Trust-Region Methods) :
📌 معرفی
روش های ناحیه ی اطمینان (Trust-Region Methods) یک رویکرد قدرتمند برای بهینه سازی غیرخطی هستند که به عنوان جایگزینی برای روش های جستجوی خطی عمل می کنند. ایده اصلی این است که در هر تکرار، یک مدل (معمولا درجه دوم) از تابع هدف در یک ناحیه محدود به نام "ناحیه اطمینان" ساخته می شود و سپس این مدل در همان ناحیه بهینه می شود.
💡 ایده اصلی
در هر تکرار k، یک مدل ساده
\[ m_k \](معمولا تقریب درجه دوم تیلور) از تابع
\[ f \]حول نقطه فعلی
\[ x_k \]ساخته می شود:
\[ m_k(p) = f(x_k) + \nabla f(x_k)^T p + \frac{1}{2} p^T B_k p \]سپس یک زیرمسئله با قید
\[ \|p\| \leq \Delta_k \](که
\[ \Delta_k \]شعاع ناحیه اطمینان است) حل می شود تا گام
\[ p_k \]پیدا شود. پس از محاسبه گام، نسبت کاهش واقعی به کاهش پیش بینی شده (Ratio) محاسبه می شود:
\[ \rho_k = \frac{f(x_k) - f(x_k + p_k)}{m_k(0) - m_k(p_k)} \]بر اساس
\[ \rho_k \]، نقطه جدید پذیرفته یا رد می شود و شعاع ناحیه اطمینان تنظیم می گردد.
🔧 تنظیم شعاع ناحیه اطمینان
اگر
\[ \rho_k \]نزدیک به ۱ باشد (مدل دقیق است)، شعاع افزایش می یابد.
اگر
\[ \rho_k \]کوچک یا منفی باشد (مدل ضعیف است)، شعاع کاهش می یابد.
اگر
\[ \rho_k \]بزرگتر از یک آستانه (مثلا 0.75) باشد، گام پذیرفته می شود.
اگر
\[ \rho_k \]کمتر از یک آستانه (مثلا 0.1) باشد، گام رد شده و شعاع کاهش می یابد.
📈 مزایا نسبت به جستجوی خطی
پایداری بیشتر: روش های ناحیه اطمینان معمولا پایدارتر هستند و برای توابع بدرفتار (Ill-conditioned) عملکرد بهتری دارند.
استفاده از اطلاعات مدل: به طور مستقیم کیفیت مدل را ارزیابی و بر اساس آن تنظیم می کنند.
قابلیت اطمینان: می توانند از گام های خیلی بزرگ جلوگیری کنند.
