روش های بهینه سازی بدون قید (Unconstrained Optimization Techniques)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
روش های بهینه سازی بدون قید (Unconstrained Optimization Techniques) :
📌 تعریف
روش های بهینه سازی بدون قید (Unconstrained Optimization) برای یافتن کمینه یا بیشینه یک تابع چندمتغیره
\[ f: \mathbb{R}^n \to \mathbb{R} \]بدون هیچ قیدی بر روی متغیرها به کار می روند. این روش ها هسته اصلی بسیاری از الگوریتم های بهینه سازی را تشکیل می دهند.
🔧 دسته بندی اصلی
روش های مبتنی بر گرادیان (Gradient-based): از مشتق اول (و گاهی دوم) استفاده می کنند.
روش تندترین کاهش (Steepest Descent)
روش نیوتن (Newton)
روش های شبه-نیوتن (Quasi-Newton)
روش گرادیان مزدوج (Conjugate Gradient)
روش های بدون مشتق (Derivative-free): فقط از مقادیر تابع استفاده می کنند.
روش نلدر-مید (Nelder-Mead) یا سیمپلکس
روش های جستجوی الگو (Pattern Search)
روش های مبتنی بر مدل (Model-based)
📐 ساختار کلی روش های تکراری
اکثر روش های بدون قید از یک ساختار تکراری پیروی می کنند:
\[ x_{k+1} = x_k + \alpha_k d_k \]که در آن
\[ d_k \]جهت جستجو و
\[ \alpha_k \]اندازه گام (که با روش های تک متغیره تعیین می شود) است.
