روش جهت های مزدوج (Conjugate Directions Method)، در ریاضیات (Mathematics)

انواع روش های عددی (Numerical Methods) را در آموزش زیر شرح دادیم :

روش جهت های مزدوج (Conjugate Directions Method) :

چارچوب کلی برای روش های مبتنی بر جهت های مزدوج

توضیح ساده: روش جهت های مزدوج یک چارچوب کلی برای بهینه سازی توابع درجه دوم است که روش گرادیان مزدوج یکی از پیاده سازی های خاص آن محسوب می شود. ایده این است که مجموعه ای از جهت های d₀, d₁, ..., d_{n-1} پیدا کنیم که نسبت به ماتریس A مزدوج باشند (یعنی dᵢᵀ A d_j = 0 برای i≠j). سپس با یک جستجوی خطی در هر جهت، می توان در n گام به جواب رسید. این روش ها مستقل از ترتیب انتخاب جهت ها هستند و پایه ای برای روش های پیشرفته تر می باشند.

شرح گام به گام: برای تابع درجه دوم f(x) = ½ xᵀA x - bᵀx:

۱. مجموعه ای از n جهت مزدوج d₀, d₁, ..., d_{n-1} نسبت به A انتخاب کنید (مثلا با فرآیند گرام-اشمیت مزدوج).

۲. با یک نقطه شروع x₀ شروع کنید.

۳. برای k = ۰ تا n-1:

   - اندازه گام بهینه αₐ = - (dₐᵀ (A xₐ - b)) / (dₐᵀ A dₐ)

   - xₐ₊₁ = xₐ + αₐ dₐ

۴. x_n جواب دقیق است.

در عمل، تولید جهت های مزدوج به صورت مستقیم پرهزینه است، بنابراین روش هایی مانند گرادیان مزدوج آنها را به تدریج می سازند.

مثال عددی: برای A = [[2,0],[0,8]] (ماتریس قطری)، بردارهای پایه استاندارد e₁ و e₂ خودکار مزدوج هستند. با یک جستجوی خطی در جهت x و سپس y، به جواب می رسیم. این مثال ساده نشان می دهد که چرا روش های مزدوج مؤثر هستند.

مزایا: پایه ریاضی قوی، درک عمیق از ساختار بهینه سازی درجه دوم.

معایب: عملا کمتر به صورت مستقیم استفاده می شود (روش CG کارآمدتر است).

کاربردها: در آموزش، در تحلیل نظری روش های بهینه سازی.

نکته: روش جهت های مزدوج معادل حل دستگاه خطی با یک پیش شرط ساز ایده آل است.