آموزش ریاضیات (Mathematics)
۴۰۸۰ آموزش
نمایش دسته بندی ها (۴۰۸۰ آموزش)

شبکه تطبیق دهنده (Matching Network)، در ریاضیات (Mathematics)

انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :

شبکه تطبیق دهنده (Matching Network) :

شبکه تطبیق دهنده (Matching Network) توسط وینگالس و همکاران در سال ۲۰۱۶ برای یادگیری با نمونه کم (few-shot learning) معرفی شد. ایده: این شبکه یک نگاشت از یک مجموعه پشتیبانی (support set) با چند نمونه برچسب دار به یک طبقه بند برای نمونه های جدید (query) یاد می گیرد. به عبارت دیگر، یک "تطبیق دهنده" که برچسب نمونه query را بر اساس شباهت به نمونه های پشتیبانی پیش بینی می کند.

ساختار: از یک شبکه عصبی (معمولا CNN) برای استخراج ویژگی ها از تصاویر استفاده می شود. سپس یک هسته توجه (attention kernel) (مانند شباهت کسینوسی) بین ویژگی query و هر نمونه پشتیبانی محاسبه می شود. برچسب query به صورت ترکیب وزن دار برچسب های نمونه های پشتیبانی (با softmax روی توجه) پیش بینی می شود.

فرمول: با فرض مجموعه پشتیبانی

\[ S = \{(x_i, y_i)\}_{i=1}^k \]

، احتمال برچسب برای query

\[ \hat{x} \]

:

\[ P(\hat{y}|\hat{x}, S) = \sum_{i=1}^k a(\hat{x}, x_i) y_i \]

که

\[ a(\hat{x}, x_i) = \frac{\exp(\text{cosine}(f(\hat{x}), g(x_i)))}{\sum_j \exp(\text{cosine}(f(\hat{x}), g(x_j)))} \]

و

\[ f \]

و

\[ g \]

شبکه های استخراج ویژگی (می توانند مشترک یا جدا باشند).

آموزش به صورت اپیزودیک (episodic) انجام می شود: هر اپیزود یک task few-shot با مجموعه پشتیبانی و query جدید شبیه سازی می کند. Matching Network بر روی Handwriting (Omniglot) و MiniImageNet نتایج خوبی گرفت.

کاربردها: طبقه بندی با نمونه کم، سیستم های توصیه گر، تطبیق محتوا. این شبکه به همراه Prototypical Networks و Relation Networks از پایه های few-shot learning هستند.

نویسنده علیرضا گلمکانی
شماره کلید 14327
گزینه ها
به اشتراک گذاری (Share) در شبکه های اجتماعی
نظرات 0 0 0

ارسال نظر جدید (بدون نیاز به عضو بودن در وب سایت)