روش نلدر-مید (Nelder-Mead Method / Simplex Search Method)، در ریاضیات (Mathematics)
انواع روش های عددی (Numerical Methods) را در آموزش زیر شرح دادیم :
روش نلدر-مید (Nelder-Mead Method / Simplex Search Method) :
روش جستجوی مستقیم بدون نیاز به مشتق
توضیح ساده: روش نلدر-مید (یا روش سیمپلکس) یک روش بهینه سازی عددی برای توابع غیرخطی است که بدون نیاز به مشتق (derivative-free) کار می کند. این روش با یک سیمپلکس (یک چندضلعی در n بعد با n+1 رأس) شروع می کند و در هر تکرار، سیمپلکس را با عملیاتی مانند انعکاس (Reflection)، انبساط (Expansion)، انقباض (Contraction) و کوچک سازی (Shrink) تغییر می دهد تا به سمت کمینه حرکت کند. این روش در مسائلی که محاسبه مشتق دشوار یا غیرممکن است، بسیار مفید است.
شرح گام به گام: الگوریتم نلدر-مید برای کمینه سازی f(x):
۱. یک سیمپلکس اولیه با n+1 رأس ایجاد کنید (مثلا با یک نقطه و اضافه کردن انحراف).
۲. مقادیر f را در هر رأس محاسبه و مرتب کنید: بهترین (B)، خوب (G)، بدترین (W).
۳. مرکز ثقل همه نقاط به جز بدترین را محاسبه کنید: M = (∑_{i≠W} x_i)/n.
۴. انعکاس: R = M + α (M - W) (معمولا α=1). اگر f(R) بین f(B) و f(G) بود، W را با R جایگزین کنید.
۵. اگر f(R) < f(B) (بهتر از بهترین)، انبساط: E = M + γ (R - M) (γ=2). اگر f(E) < f(R) بود، W را با E جایگزین کنید، وگرنه با R.
۶. اگر f(R) > f(G) (بدتر از خوب)، انقباض بیرونی یا داخلی:
- انقباض بیرونی: C = M + β (R - M) (β=0.5). اگر f(C) < f(R) بود، W را با C جایگزین کنید.
- انقباض داخلی: C = M - β (M - W). اگر f(C) < f(W) بود، W را با C جایگزین کنید.
۷. اگر هیچ کدام موفق نبود، کوچک سازی: همه نقاط به جز بهترین را به نصف فاصله به سمت بهترین حرکت دهید: x_i = (x_i + B)/2.
۸. تا همگرایی تکرار کنید.
مثال عددی: تابع رزنباک (Rosenbrock) که قبلا دیدیم. روش نلدر-مید با شروع از یک سیمپلکس مناسب، می تواند به جواب نزدیک شود، اگرچه برای این تابع کندتر از BFGS عمل می کند. این روش در نرم افزارهایی مانند MATLAB (دستور fminsearch) پیاده سازی شده است.
مزایا: بدون نیاز به مشتق، ساده، قابل اعتماد برای مسائل کوچک.
معایب: کند برای مسائل با ابعاد بالا، ممکن است در نقاط زینی گیر کند، همگرایی تضمینی ندارد.
کاربردها: در بهینه سازی پارامترهای مدل های تجربی، در مسائل شیمیایی، در تنظیم پارامترهای کنترل کننده.
نکته: این روش توسط جان نلدر و راجر مید در سال ۱۹۶۵ معرفی شد.
