شبکه عصبی گراف (Graph Neural Network - GNN)، در ریاضیات (Mathematics)
انواع شبکه های عصبی (Neural Networks) را در آموزش زیر شرح دادیم :
شبکه عصبی گراف (Graph Neural Network - GNN) :
شبکه عصبی گراف (GNN) دسته ای از شبکه های عصبی هستند که مستقیما روی داده های گرافی (گره ها و یال ها) عمل می کنند. داده های گرافی در بسیاری از حوزه ها دیده می شوند: شبکه های اجتماعی، مولکول ها، گراف های دانش، سیستم های توصیه گر. GNNها با انتشار پیام (message passing) بین گره ها، ویژگی های هر گره را با در نظر گرفتن همسایگانش به روز می کنند.
فرمول کلی یک لایه GNN (با انتشار پیام) برای گره
\[ v \]به صورت زیر است:
\[ \mathbf{h}_v^{(l+1)} = \phi^{(l)}\left( \mathbf{h}_v^{(l)}, \bigoplus_{u \in \mathcal{N}(v)} \psi^{(l)}(\mathbf{h}_v^{(l)}, \mathbf{h}_u^{(l)}, \mathbf{e}_{uv}) \right) \]که
\[ \mathbf{h}_v^{(l)} \]نمایش گره
\[ v \]در لایه
\[ l \]،
\[ \mathcal{N}(v) \]همسایگان
\[ v \]،
\[ \mathbf{e}_{uv} \]ویژگی یال،
\[ \psi \]تابع پیام (مثلا یک MLP)،
\[ \bigoplus \]یک عملگر جمع کننده تقارنی (جمع، میانگین، حداکثر) و
\[ \phi \]تابع به روزرسانی (مثلا یک MLP دیگر) است.
انواع مختلف GNN بسته به تعریف
\[ \psi \]و
\[ \oplus \]وجود دارد: Graph Convolutional Networks (GCN) که از عملیات شبیه کانولوشن با در نظر گرفتن نرمال سازی درجه گره ها استفاده می کنند، GraphSage که از نمونه گیری همسایگان برای مقیاس پذیری استفاده می کند، Gated Graph Neural Networks (GGNN) که از GRU برای به روزرسانی استفاده می کند، و Graph Attention Networks (GAT) که از مکانیزم توجه برای وزن دهی به همسایگان بهره می گیرد.
GNNها می توانند برای وظایف مختلف روی گراف استفاده شوند: ۱) طبقه بندی گره ها (مثل پیش بینی نقش کاربران در شبکه اجتماعی)، ۲) پیش بینی یال (مثل توصیه دوست یا پیش بینی تعاملات)، ۳) طبقه بندی گراف (مثل تشخیص خواص مولکول ها).
یکی از چالش های GNN، over-smoothing است: با عمیق شدن شبکه، نمایش گره ها به هم شبیه می شوند. راه حل هایی مانند skip connections، dropout روی گراف و نرمال سازی ارائه شده است.
GNNها در شیمی و زیست شناسی محاسباتی بسیار موفق بوده اند (مثلا پیش بینی انرژی مولکول ها، طراحی دارو). همچنین در سیستم های توصیه گر (مانند Pinterest) برای پیشنهاد محتوا بر اساس گراف تعاملات کاربران استفاده می شوند.
آموزش GNN معمولا با supervised learning روی برچسب گره ها/یال ها یا با روش های بدون ناظر مانند بازسازی گراف (graph autoencoders) انجام می شود.
GNNها به دلیل انعطاف پذیری در مدل سازی داده های نامنظم، به یکی از پرکاربردترین حوزه های یادگیری عمیق تبدیل شده اند.
