5 分で解説するグラフ ニューラル ネットワーク

グラフ ニューラル ネットワーク (GNN) は、グラフを分析し、オブジェクト間の関係を推測し、そこから意味のあるデータを予測するのに役立つ最新の概念です。

人工知能と機械学習の人気により、企業や消費者における GNN のような概念に対する需要がさらに高まっています。

これらは、複数の業界やユーザーが画像とテキストの分類、自然言語処理、製品の推奨、ソーシャル メディア分析などのタスクを実行するのに役立ちます。

さて、問題はグラフに関して言えば、CNN などの標準的な方法を使用してグラフを分析して表現するのが難しい場合があるということです。

ここで、いくつかのグラフの問題を解決するために GNN が登場します。

この記事では、GNN とは何か、GNN がどのように機能するか、現実世界でのアプリケーションなどについて説明します。

それでは、乞うご期待！

グラフの概要

グラフは基本的に、関連するデータを表現する方法です。オブジェクト、人、概念間の関係を視覚化するのに役立ちます。グラフは、複雑なタスクの機械学習 (ML) モデルのトレーニングにも役立ちます。グラフの例としては、ソーシャル メディア ネットワーク、さまざまな物理システムのモデル化、指紋の分析などが挙げられます。

コンピューター サイエンスの世界では、グラフはエッジとノード (または頂点) という 2 つのコンポーネントを持つ一種のデータ構造です。エッジは、異なるノード間の関係を決定するリンクとも呼ばれますが、ノードはエンティティ、オブジェクト、場所などです。

数学的には、グラフは次の式で表すことができます。

G = (V, E)

ここで、G はグラフを表し、V は頂点のセットを表し、E はエッジを表します。

グラフには次の 2 つのタイプがあります。

• 有向 : 有向グラフは、2 つのノード間の方向の依存関係を示します。このタイプのグラフは、一方向または双方向にすることができます。
• 無向 : 無向グラフには方向依存性がなく、ノードが相互にリンクされているだけです。

グラフの分析が難しいのはなぜですか?

グラフの分析は、次のようなさまざまな理由から困難になる可能性があります。

• グラフは非ユークリッド空間に存在します。つまり、データは 2D や 3D のような平面ではなく曲面を扱います。これにより、グラフとそのデータの解釈が困難になります。
• グラフには数十、数百、さらには数百万のノードが含まれる場合があり、エッジの数はノードごとに異なります。サイズが大きく、その次元係数が大きいため、グラフの解釈が複雑になります。
• グラフィックのサイズは動的であり、固定された形式はありません。 2 つのグラフは異なって見える可能性がありますが、隣接行列の表現は類似している可能性があります。このように、従来のツールを使用してグラフを分析することは非効率的で困難な場合があります。

一方、グラフは時間の経過とともに拡大または縮小することがあります。これは、グラフィック データを行列で表現したい場合、非効率的であり、同じグラフを表す指標が不足する可能性があることも意味します。さらに、同じ結果が得られない可能性があるため、これらは順列不変ではありません。

これらすべての問題を考慮して、グラフィック予測問題をより効果的に解決するために GNN が導入されました。

グラフ ニューラル ネットワークとは何ですか?

グラフ ニューラル ネットワーク (GNN) は、グラフとして表されるデータの処理に使用される人工ニューラル ネットワーク (ANN) の一種です。

GNN は、深層学習とグラフ理論の概念に基づいて構築されています。これらのネットワークは、データを分析および処理するために、機械学習と人工知能のサブセットであるディープラーニングの予測インテリジェンスを使用します。

GNN は、埋め込まれたノード、エッジ、およびコンテキストを含むグラフとして入力データを受け取り、入力グラフの対称性を維持することによって埋め込みが更新および変換されるグラフとして出力を作成できます。

GNN は、データがノードであり、データ間の接続がエッジであるグラフと考えてください。 GNN をグラフに直接適用すると、エッジ、ノード、またはグラフ レベルで予測タスクを実行する簡単な方法が得られます。

GNN は、グラフ構造と特徴情報をより適切に組み合わせて、特徴の集約と伝播を通じてグラフィック表現を学習できます。

現実の世界では、GNN は複数の分野の複雑な問題を研究し、解決するために使用されます。一部の使用例には、大規模ネットワーク内の特定のノードの識別、パターンの分類、グラフの視覚化、フィルタリング、分析、ソーシャル ネットワークの分析、価格予測などが含まれます。

GNN は、2009 年にイタリアの研究者によって発表された論文で初めて導入されました。アムステルダムの 2 人の研究者も、グラフ畳み込みネットワーク (GCN) と呼ばれる別の亜種を使用して GNN の威力を実証しました。

GNN の種類

ニューラル ネットワークには多くの種類があり、ほとんどのネットワークには何らかの形式の CNN が含まれています。 GNN の種類は次のとおりです。

#1. リカレント グラフ ニューラル ネットワーク (RGNN)

RGNN は拡散パターンを研究し、複数の関係を持つノードを持つマルチリレーショナル グラフを管理できます。これらのネットワークは、平滑性を高め、過剰なパラメータ化を回避するために正則化子を使用します。

より良い結果を生み出すために、限られた計算能力を使用します。 RGNN は、機械翻訳、テキスト生成、音声認識、ビデオのタグ付け、画像説明の生成、テキストの要約などに使用されます。

#1. ゲート型グラフ ニューラル ネットワーク (GGNN)

これらのネットワークは、長期的な依存関係が関係するタスクの実行に関しては、RGNN よりも優れています。 GGNN は、長期依存関係にタイム ゲート、エッジ、ノードを追加することで RGNN を強化します。これらのネットワークは、さまざまな状態の情報を記憶したり忘れたりするために使用されます。

#2. グラフ畳み込みネットワーク (GCN)

GCN は従来の CNN に似ています。 GCN は、隣接するノードを検査することによって、オブジェクトまたはエンティティの特徴を学習します。 GNN はさまざまなノード ベクトルを集約し、その結果を高密度層に渡します。次に、ネットワークは活性化関数を使用して非線形性を実行します。 GCN はさらに、空間畳み込みネットワークとスペクトル畳み込みネットワークの 2 つのタイプに分類されます。

#3. グラフオートエンコーダーネットワーク

これらのニューラル ネットワークは、エンコーダーの助けを借りてグラフ表現を研究し、デコーダーの助けを借りて入力グラフの再構築を試みます。さらに、デコーダとエンコーダはボトルネック層で結合されます。グラフ オート エンコーダー ネットワークは、クラス バランサーをより適切に処理するため、リンク予測に優れています。

GNN はどのように機能するのでしょうか?

従来の深層学習は主に、ピクセルのグリッドまたは単語のシーケンスとして記述される構造化データであるテキストと画像に焦点を当てています。

それに対して、グラフは構造化されておらず、任意のサイズや形状を取り、テキストや画像以外のあらゆる種類のデータを含めることができます。

GNN はメッセージ パッシングを利用してグラフを整理し、機械学習アルゴリズムがグラフを活用できるようにします。メッセージ パッシングでは、近隣ノードに関する情報が各ノードに埋め込まれます。次に、AI モデルは埋め込まれたデータを使用してパターンを検出し、意味のある予測を行います。

たとえば、エッジ埋め込みは不正行為検出システムで不審な取引を検出するために使用され、時間通りに適切な措置を講じて不正行為を阻止する必要があります。

GNN はスパース数学を利用しており、そのモデルには通常 2 層または 3 層しかありません。一方、他のネットワークや AI モデルには高密度の数学が含まれており、数百ものニューラル ネットワーク層があります。

GNNとCNNの違い

GNN と畳み込みニューラル ネットワーク (CNN) は 2 種類のニューラル ネットワークですが、それでも異なります。

CNN は、機械が物体や物体を視覚化し、画像認識、物体検出、画像分類などのタスクを実行するのを支援するために使用される別のタイプのニューラル ネットワークです。CNN は、通常、平面、2D、および 3D 空間に優れていますが、GNN湾曲した空間または非ユークリッド空間で輝きます。

CNN は、特に構造化情報またはユークリッド空間で動作するように設計されています。一方、GNN は、ノードが順序付けされておらず、変化する可能性がある非ユークリッド空間を扱います。

これは、テキストや画像などの構造情報に CNNS を適用できることを意味します。天気、音などの非構造化データには適用されませんが、GNN は非構造化データと構造化データに適用されます。これは CNN の一般化された形式です。

さらに、CNN がグラフの分析に適さない場合でも、GNN はグラフの分析と意味のある情報の予測に役立ちます。

つまり、GNN は CNN よりもグラフの問題を効率的に解決できます。

GNN の応用

GNN を適用する組織や企業は拡大しています。産業から科学分野に至るまで、さまざまな分野で採用されています。 GNN のアプリケーションの一部を次に示します。

#1. グラフの分類

GNN はグラフの分類に使用され、完全なグラフがいくつかのカテゴリに分割されます。これは画像分類に似ていますが、ターゲットがグラフ ドメインに変換される点が異なります。

グラフ分類には、タンパク質が酵素に属するかどうかを確認するバイオインフォマティクス、ソーシャル ネットワーク分析の実行、NLP でのファイルの分類など、多くの用途があります。

#2. グラフの視覚化

グラフの視覚化はコンピューター科学と数学の一部であり、情報の視覚化と幾何学的グラフ理論が交差します。グラフを視覚的に表現し、データ内の異常や構造を明らかにします。グラフの視覚化により、ユーザーはグラフをより深く理解できます。

#3. グラフクラスタリング

GNN は、データをグラフとしてクラスタリングするプロセスであるグラフ クラスタリングで使用されます。特定のグラフ データに対して、頂点クラスタリングとオブジェクト クラスタリングという 2 種類のクラスタリングを実行できます。頂点クラスタリングは、グラフのノードを、密に接続されたさまざまな領域グループに編成またはクラスタ化します。

これらはエッジの距離または重みに基づいています。後者は、グラフをオブジェクトまたはクラスター化するエントリとして受け取ります。類似性に基づいてオブジェクトをグループ化またはクラスター化します。

#4. ノードの分類

GNN の重要なアプリケーションの 1 つは、ノードの近隣ノードのラベルをチェックしてノードのラベル付けを決定するノード分類です。ここでは、情報ギャップがあるノードに新しい情報が追加されます。

このタイプのタスクのモデルには、半教師ありトレーニングが必要です。ここでは、特定のグラフの一部のみにラベルを付ける必要があります。

たとえば、組織ネットワーク内に作成されたボット アカウントがあるかどうかを確認したい場合は、既知および未知のボットのグラフ エンベディングに基づいて GNN モデルをトレーニングし、ユーザーを通常のユーザーかボットかに分類する必要があります。

#5. リンクまたはエッジの予測

GNN は、特定のグラフ内のさまざまなオブジェクトまたはエンティティ間の関係を解明するためのリンクまたはエッジ予測に役立ちます。これは、指定された 2 つのエンティティ間に何らかの接続が存在するかどうかを予測するためにも行われます。

たとえば、ソーシャル ネットワークでリンク予測を使用して、ソーシャル インタラクションを理解し、ユーザーに友人候補を提案できます。また、法執行機関において、犯罪関連の予測と理解、および最高の製品、映画、音楽などを提案する推奨システムにも使用されています。

#6. コンピュータビジョン

GNN は、人間とオブジェクトのインタラクション、画像分類、シーン グラフの生成などを含むさまざまな問題を解決するためにコンピューター ビジョンに適用されます。

たとえば、シーン グラフ生成で GNN を使用できます。この場合、モデルは特定の画像を解析して、オブジェクトとオブジェクト間のセマンティックな関係で構成されるグラフを作成する必要があります。このプロセスでは、オブジェクトを認識および検出し、さまざまなオブジェクトのペア間の意味論的な関係を予測できます。

＃7。 テキストの分類

グラフは単語のグループを表すことができます。単語はノードであり、これらの単語間の接続はエッジです。グラフまたはノード レベルでテキスト分類を実行できます。

テキスト分類に GNN を使用することには、製品の推奨、新しい分類、特定の症状からの病気の検出など、現実世界で多くのユースケースがあります。

#8. 点群の分類とセグメント化

LiDAR は、現実世界のデータをさまざまな 3D 点群にプロットして、3D セグメンテーション プロセスを完了できます。 GNN を使用して点群を表現し、それらを簡単に分類およびセグメント化できます。

#9. 人間とオブジェクトのインタラクションを表現する

グラフは、リンクとオブジェクト間の相互作用を表現する優れた方法です。したがって、オブジェクトと人間をノードとしてモデル化し、それらの間の関係と相互作用をエッジとしてモデル化できます。

＃10。 自然言語処理 (NLP)

NLP では、テキストは LSTM (Long Short-Term Memory) または RNN (Recurrent Neural network) によって記述された順次データとみなされます。多くの NLP タスクでは、グラフを多用します。グラフは表現しやすく、自然で生々しいものに見えるためです。

GNN は、機械翻訳におけるセマンティクスの検出、テキスト分類、関係抽出、テキスト分類、質問への回答など、多くの NLP 問題の解決に使用されます。

#11. 創薬

病気や病気の薬や治療法を発見することは、化学だけでなく社会にとっても課題です。この分野では、病気を治す薬を開発するために徹底的な研究と何十億ドルと何年もかかることが必要です。

AI を備えた GNN は、研究とスクリーニングのプロセスを短縮し、より安全で効果的な医薬品をより早く一般に発売できるようにするのに役立ちます。

#12. 分子相互作用の表現

GNN は、粒子の相互作用に関する法則を扱う粒子物理学で役立ちます。ここでグラフを使用すると、粒子間の関係や相互作用を理解できます。 GNN は、衝突ダイナミクスの特性を予測するのに役立ちます。

現在、大型ハドロン衝突型加速器 (LHC) は GNN を使用して、さまざまな実験で生成された画像から興味深い粒子を識別します。

#13. 交通量予測

スマート交通デバイスまたはシステムには、主な機能として交通速度の予測と道路密度が含まれます。これらの予測タスクは、STGNN または時空間グラフ ニューラル ネットワークの助けを借りて実行できます。

ここで、交通ネットワークは、道路上に配置されたセンサーとしてのノードと、ノードのペア間の距離であるエッジを備えた時空間グラフとして考慮されます。また、各ノードが入力として平均トラフィック速度を持つことを考慮してください。

#14. その他の用途

上記とは別に、GNN は、電子医療記録モデリング、敵対的攻撃の防止、ブレイン ネットワーク、社会的影響予測、プログラム、推論、プログラム検証、選挙結果の予測などで使用されます。

学習リソース

以下に、GNN について学ぶのに最適な書籍をいくつか紹介します。

#1. グラフニューラルネットワーク by Lingfei Wu 他

この本は、グラフ表現学習の目的について説明する GNN の包括的なガイドです。

また、GNN の現在の開発、歴史、将来について、いくつかの基本的な理論と手法とともに説明します。

#2. 動作中のグラフ ニューラル ネットワーク

これは、グラフに基づくディープ ラーニング モデルと、分子モデリングやレコメンデーション エンジンなどのための高度な GNN を構築する方法についての実践的なガイドです。

#3. グラフ ニューラル ネットワークの概要 (Zhiyuan Liu 著)

GNN の基本概念、アプリケーション、モデルを学びます。

#4. Younes Sadat-Nejad によるグラフ ニューラル ネットワーク

これは、Udemy で利用できる GNN の入門コースです。グラフ表現学習と GNN を学ぶのに役立ちます。

結論

AI の人気が高まり、グラフがより洗練され、データが豊富になるにつれて、グラフ ニューラル ネットワーク (GNN) がより有用なものとして認識され始めています。これらは予測を行うための強力なツールであり、ネットワーキングやコンピューター ビジョンから化学、物理学、ヘルスケアに至るまで、複数の分野で応用されています。

機械学習における回帰と分類を調べることもできます。