بهینه سازی فدرال (Federated Optimization)، در ریاضیات (Mathematics)
انواع روش های بهینه سازی (Optimization Methods) را در آموزش زیر شرح دادیم :
بهینه سازی فدرال (Federated Optimization) :
📌 معرفی
بهینه سازی فدرال (Federated Optimization) یک چارچوب برای بهینه سازی مدل های یادگیری ماشین به صورت غیرمتمرکز و با حفظ حریم خصوصی داده ها است. در این روش، داده ها بر روی دستگاه های مختلف (مانند تلفن های همراه) پراکنده هستند و هرگز به یک سرور مرکزی منتقل نمی شوند. هدف یادگیری یک مدل سراسری با همکاری این دستگاه ها بدون به اشتراک گذاشتن داده های خام است.
📐 فرآیند اصلی
سرور مرکزی یک مدل اولیه را به برخی از دستگاه های کلاینت ارسال می کند.
هر کلاینت با استفاده از داده های محلی خود، مدل را برای چند تکرار (معمولا با SGD) به روزرسانی می کند.
کلاینت ها به روزرسانی های گرادیان یا وزن های مدل را (نه داده ها) به سرور ارسال می کنند.
سرور به روزرسانی های دریافتی را جمع آوری و میانگین گیری می کند (مثلا با Federated Averaging - FedAvg) تا مدل سراسری جدید ایجاد شود.
این مراحل تا همگرایی تکرار می شوند.
