SlideShare a Scribd company logo
Enviar pesquisa
Carregar
Entrar
Cadastre-se
教師なしGNNによるIoTデバイスの異常通信検知の検討
Denunciar
ARISE analytics
Seguir
ARISE analytics
16 de Feb de 2023
•
0 gostou
•
812 visualizações
1
de
21
教師なしGNNによるIoTデバイスの異常通信検知の検討
16 de Feb de 2023
•
0 gostou
•
812 visualizações
Baixar agora
Baixar para ler offline
Denunciar
Tecnologia
SCIS2023で発表した「教師なしGNNによるIoTデバイスの異常通信検知の検討」の資料です。
ARISE analytics
Seguir
ARISE analytics
Recomendados
【DL輪読会】Scaling Laws for Neural Language Models
Deep Learning JP
3.3K visualizações
•
27 slides
生成モデルの Deep Learning
Seiya Tokui
47.7K visualizações
•
38 slides
CVPR2019読み会@関東CV
Takanori Ogata
2.4K visualizações
•
58 slides
[DL輪読会]相互情報量最大化による表現学習
Deep Learning JP
7.4K visualizações
•
43 slides
[DL輪読会]Understanding Black-box Predictions via Influence Functions
Deep Learning JP
6.1K visualizações
•
32 slides
Domain Adaptation 発展と動向まとめ(サーベイ資料)
Yamato OKAMOTO
8.5K visualizações
•
22 slides
Mais conteúdo relacionado
Mais procurados
[DeepLearning論文読み会] Dataset Distillation
Ryutaro Yamauchi
924 visualizações
•
11 slides
Transformer メタサーベイ
cvpaper. challenge
26.8K visualizações
•
181 slides
[DL輪読会]ドメイン転移と不変表現に関するサーベイ
Deep Learning JP
6.7K visualizações
•
54 slides
[DL輪読会]Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets
Deep Learning JP
2.7K visualizações
•
17 slides
グラフデータ分析 入門編
順也 山口
33.7K visualizações
•
65 slides
Deep Learning Lab 異常検知入門
Shohei Hido
43.9K visualizações
•
25 slides
Mais procurados
(20)
[DeepLearning論文読み会] Dataset Distillation
Ryutaro Yamauchi
•
924 visualizações
Transformer メタサーベイ
cvpaper. challenge
•
26.8K visualizações
[DL輪読会]ドメイン転移と不変表現に関するサーベイ
Deep Learning JP
•
6.7K visualizações
[DL輪読会]Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets
Deep Learning JP
•
2.7K visualizações
グラフデータ分析 入門編
順也 山口
•
33.7K visualizações
Deep Learning Lab 異常検知入門
Shohei Hido
•
43.9K visualizações
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
SSII
•
2K visualizações
グラフデータの機械学習における特徴表現の設計と学習
Ichigaku Takigawa
•
8.7K visualizações
5 クラスタリングと異常検出
Seiichi Uchida
•
648 visualizações
【DL輪読会】Flow Matching for Generative Modeling
Deep Learning JP
•
1.6K visualizações
【DL輪読会】Efficiently Modeling Long Sequences with Structured State Spaces
Deep Learning JP
•
4.4K visualizações
【メタサーベイ】Transformerから基盤モデルまでの流れ / From Transformer to Foundation Models
cvpaper. challenge
•
939 visualizações
【メタサーベイ】数式ドリブン教師あり学習
cvpaper. challenge
•
5.3K visualizações
SSII2020TS: 機械学習モデルの判断根拠の説明 〜 Explainable AI 研究の近年の展開 〜
SSII
•
3.5K visualizações
自動運転におけるCNNの信頼性
Fixstars Corporation
•
5K visualizações
モデル高速化百選
Yusuke Uchida
•
24.5K visualizações
近年のHierarchical Vision Transformer
Yusuke Uchida
•
13.3K visualizações
[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing
Deep Learning JP
•
2.9K visualizações
モデルではなく、データセットを蒸留する
Takahiro Kubo
•
7.7K visualizações
【論文紹介】How Powerful are Graph Neural Networks?
Masanao Ochi
•
3.8K visualizações
Similar a 教師なしGNNによるIoTデバイスの異常通信検知の検討
Enocean無線センサー用ノード開発事例
nodered_ug_jp
468 visualizações
•
22 slides
Software for Edge Heavy Computing @ INTEROP 2016 Tokyo
Shohei Hido
4.5K visualizações
•
34 slides
低遅延Ethernetとファブリックによるデータセンタ・ネットワーク
Naoto MATSUMOTO
3.5K visualizações
•
18 slides
IoT Plug and Playの実装方法
Takashi Matsuoka
427 visualizações
•
25 slides
ifLink[改善版].pdf
KunihiroSugiyama1
1.1K visualizações
•
14 slides
Self-supervised Learning of Adversarial Example:Towards Good Generalizations...
harmonylab
448 visualizações
•
21 slides
Similar a 教師なしGNNによるIoTデバイスの異常通信検知の検討
(20)
Enocean無線センサー用ノード開発事例
nodered_ug_jp
•
468 visualizações
Software for Edge Heavy Computing @ INTEROP 2016 Tokyo
Shohei Hido
•
4.5K visualizações
低遅延Ethernetとファブリックによるデータセンタ・ネットワーク
Naoto MATSUMOTO
•
3.5K visualizações
IoT Plug and Playの実装方法
Takashi Matsuoka
•
427 visualizações
ifLink[改善版].pdf
KunihiroSugiyama1
•
1.1K visualizações
Self-supervised Learning of Adversarial Example:Towards Good Generalizations...
harmonylab
•
448 visualizações
SegFormer: Simple and Efficient Design for Semantic Segmentation with Transfo...
harmonylab
•
825 visualizações
20170703_04 IoTビジネス共創ラボドローンワークス
IoTビジネス共創ラボ
•
542 visualizações
20181128 ansible juniper-automation_v2
Hiromi Tsukamoto
•
722 visualizações
キャリア網の完全なソフトウェア制御化への取り組み (沖縄オープンデイズ 2017) / Telecommunication Infrastructure ...
KenzoOkuda
•
208 visualizações
データセンターネットワークの構成について
MicroAd, Inc.(Engineer)
•
219 visualizações
iBeacon を利用したサービス開発のポイント
daisuke-a-matsui
•
18.8K visualizações
Aws summit tokyo 2016
Shotaro Motomura
•
9.8K visualizações
これだけは知っておきたい5Gのキホン - 5Gビジネスに必要な基礎知識
Yasuo Igano
•
1.6K visualizações
Graph Attention Network
Takahiro Kubo
•
15K visualizações
20200522 Blockchain GIG#7 株式会社NTTデータ山下様資料
オラクルエンジニア通信
•
1.3K visualizações
Arduino用3gシールドの開発と教育への実践(天良先生)
Takayori Takamoto
•
2.5K visualizações
Secure architecting on OCI (Oracle Cloud Infrastructure) 2021年3月16日
Masanori KAMAYAMA
•
1.1K visualizações
Arduino用3gシールド今後の開発・製造・普及に向けて
Takayori Takamoto
•
1.3K visualizações
Arduino用3gシールド今後の開発・製造・普及に向けて
Arduino3G
•
861 visualizações
Mais de ARISE analytics
【論文読み会】Signing at Scale: Learning to Co-Articulate Signs for Large-Scale Pho...
ARISE analytics
153 visualizações
•
32 slides
Hierarchical Metadata-Aware Document Categorization under Weak Supervision (...
ARISE analytics
112 visualizações
•
24 slides
【論文読み会】Pyraformer_Low-Complexity Pyramidal Attention for Long-Range Time Seri...
ARISE analytics
524 visualizações
•
18 slides
【論文読み会】Analytic-DPM_an Analytic Estimate of the Optimal Reverse Variance in D...
ARISE analytics
432 visualizações
•
17 slides
【論文読み会】Autoregressive Diffusion Models.pptx
ARISE analytics
5.1K visualizações
•
27 slides
【論文読み会】BEiT_BERT Pre-Training of Image Transformers.pptx
ARISE analytics
482 visualizações
•
29 slides
Mais de ARISE analytics
(16)
【論文読み会】Signing at Scale: Learning to Co-Articulate Signs for Large-Scale Pho...
ARISE analytics
•
153 visualizações
Hierarchical Metadata-Aware Document Categorization under Weak Supervision (...
ARISE analytics
•
112 visualizações
【論文読み会】Pyraformer_Low-Complexity Pyramidal Attention for Long-Range Time Seri...
ARISE analytics
•
524 visualizações
【論文読み会】Analytic-DPM_an Analytic Estimate of the Optimal Reverse Variance in D...
ARISE analytics
•
432 visualizações
【論文読み会】Autoregressive Diffusion Models.pptx
ARISE analytics
•
5.1K visualizações
【論文読み会】BEiT_BERT Pre-Training of Image Transformers.pptx
ARISE analytics
•
482 visualizações
【論文読み会】PiCO_Contrastive Label Disambiguation for Partial Label Learning.pptx
ARISE analytics
•
452 visualizações
【論文読み会】Deep Reinforcement Learning at the Edge of the Statistical Precipice
ARISE analytics
•
667 visualizações
【論文読み会】Alias-Free Generative Adversarial Networks(StyleGAN3)
ARISE analytics
•
2.4K visualizações
【論文読み会】On the Expressivity of Markov Reward
ARISE analytics
•
553 visualizações
【論文読み会】MAUVE: Measuring the Gap Between Neural Text and Human Text using Dive...
ARISE analytics
•
648 visualizações
【論文読み会】Moser Flow: Divergence-based Generative Modeling on Manifolds
ARISE analytics
•
643 visualizações
Counterfaual Machine Learning(CFML)のサーベイ
ARISE analytics
•
27.2K visualizações
【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
ARISE analytics
•
7.7K visualizações
【論文読み会】Self-Attention Generative Adversarial Networks
ARISE analytics
•
5.2K visualizações
【論文読み会】Universal Language Model Fine-tuning for Text Classification
ARISE analytics
•
1.9K visualizações
Último
機械学習モデルを REST API としてサービングするシステム開発における上流プロセスの絞り込みと効果検証(PM学会2023年度秋季研究発表大会 発表資料)
NTT DATA Technology & Innovation
24 visualizações
•
21 slides
IGDA Japan SIG Audio #20-1 室内・野外でのマイク収録と整音.pdf
IGDA Japan SIG-Audio
94 visualizações
•
31 slides
テスト自動化.pdf
ssuserf8ea02
16 visualizações
•
26 slides
CCoE実践者コミュニティ#1_CCoEが進めるセキュリティカイゼンの旅.pptx
Tomoaki Tada
23 visualizações
•
20 slides
20230912JSSST大会基調講演_丸山.pdf
Hiroshi Maruyama
163 visualizações
•
58 slides
gtk4_gem_usage.pdf
ssuser0ef4681
11 visualizações
•
6 slides
Último
(9)
機械学習モデルを REST API としてサービングするシステム開発における上流プロセスの絞り込みと効果検証(PM学会2023年度秋季研究発表大会 発表資料)
NTT DATA Technology & Innovation
•
24 visualizações
IGDA Japan SIG Audio #20-1 室内・野外でのマイク収録と整音.pdf
IGDA Japan SIG-Audio
•
94 visualizações
テスト自動化.pdf
ssuserf8ea02
•
16 visualizações
CCoE実践者コミュニティ#1_CCoEが進めるセキュリティカイゼンの旅.pptx
Tomoaki Tada
•
23 visualizações
20230912JSSST大会基調講演_丸山.pdf
Hiroshi Maruyama
•
163 visualizações
gtk4_gem_usage.pdf
ssuser0ef4681
•
11 visualizações
遠隔お酌IoTLT2309.pptx
Yoshiaki Ito
•
49 visualizações
20230921_IoTLT_vol103_kitazaki_v1.pdf
Ayachika Kitazaki
•
73 visualizações
松下研究室紹介_関西大学高槻キャンパスオープンキャンパス
Matsushita Laboratory
•
25 visualizações
教師なしGNNによるIoTデバイスの異常通信検知の検討
1.
教師なしGNNによる IoTデバイスの異常通信検知の検討 ★近藤 真暉(株式会社 ARISE
analytics) 奥井 宣広(株式会社 KDDI総合研究所) 2023.01.26 @ SCIS2023 ©2023 ARISE analytics Reserved. 本研究成果は、国立研究開発法人情報通信研究機構の委託研究(05201)により得られたものです。
2.
発表概要 ©2023 ARISE analytics
Reserved. 1 【本研究の概要】 IoTデバイスの通信データを対象とした異常通信検知を目的とした教師なしGNNを提案 【本研究の成果】 ① Metric Learning を用いた教師なし学習によるグラフの埋め込み手法の提案 ② 異常通信検知向け公開データセットを用い、本手法により汎用的な性能が得られていることを確認 Source IP/Port Destination IP/Port Device Network 1b 2b 1a 1c 2c Create Graph ➡ ➡ Sub-Graph Extraction ➡ Graph Embedding Model Anomaly Detection with kNN
3.
目次 ©2023 ARISE analytics
Reserved. 2 提案手法 先行研究 実験 まとめ 背景
4.
背景 - IoTデバイスを対象としたサイバーセキュリティ ©2023
ARISE analytics Reserved. 3 図:『総務省 情報通信白書(R3版)(総務省 2021)』をもとに一部加工 IoTデバイスの増加に伴い、IoTデバイスを対象としたサイバー攻撃が増加傾向にある 世界のIoTデバイス数の推移及び予測 IoTデバイスを対象としたサイバー攻撃(マルウェアMiraiの例) IoTデバイスは台数・種類の多さから手動によるセキュリティ対策が困難 ↓ 機械学習を用いたセキュリティ対策(異常通信検知)の自動化が不可欠 Mirai botmaster C&C Server 感染IoTデバイス DDoS攻撃
5.
目次 ©2023 ARISE analytics
Reserved. 4 提案手法 先行研究 実験 まとめ 背景
6.
異常通信検知 ©2023 ARISE analytics
Reserved. 5 デバイス間で行われる通信を観測し、正常とは異なる通信が発生したときに自動で検知する手段 機械学習を用いた異常通信検知は、「教師なし」ベースの手法と「教師あり」ベースの手法に大別される デバイス間の通信を観測 異常通信を検知したら対策 × 教師なし異常通信検知 教師あり異常通信検知 サイバー攻撃は日進月歩であり、過去とは異なる異常通信が発生する可能性が高く、 教師なし異常通信検知の重要性が高まっている ⚫ 正常通信を用いて学習 ⚫ 正常通信と異なる異常通信を 検知する ⚫ 未知の異常通信に対応可能 ⚫ 正常通信と異常通信を用いて 学習 ⚫ 異常通信の検知に加え、異常 通信の種類も分類可能 ⚫ 既知の異常通信のみを対象
7.
グラフニューラルネットワーク(GNN)による異常通信検知 ©2023 ARISE analytics
Reserved. 6 従来の機械学習アプローチに対し、近年GNNを用いた異常通信検知が提案されている 利点: - 複数の通信データを統合して処理できるため、従来手法に比べて性能向上する例が多い 欠点: - 教師ありの手法が中心であり、未知の異常に対して十分な検知精度が得られない可能性がある Source IP/Port Destination IP/Port Device Network 1b 2b 1a 1c 2c Create Graph ➡ ➡ Sub-Graph Extraction ➡ Graph Embedding Model Anomaly Detection (Supervised) E-GraphSAGEによる教師あり異常通信検知の例
8.
本研究の位置づけ ©2023 ARISE analytics
Reserved. 7 GNNを教師なし異常通信検知に適用できるよう改良し、活用の幅を広げる GNN ML 教師あり異常通信検知 教師なし異常通信検知 • [1][2]など • [4][5]など • [3]など • 提案手法 [1] Distributed anomaly detection for industrial wireless sensor networks based on fuzzy data modelling(JPDC 2013) [2] On the symbiosis of specification-based and anomaly-based detection (Computers & Security 2010) [3] Hyperspherical cluster based distributed anomaly detection in wireless sensor networks (JPDC 2013) [4] E-GraphSAGE: A Graph Neural Network based Intrusion Detection System for IoT(NOMS 2022) [5] Graph-based Solutions with Residuals for Intrusion Detection: the Modified E-GraphSAGE and E-ResGAT Algorithms(ArXiv 2021)
9.
目次 ©2023 ARISE analytics
Reserved. 8 提案手法 先行研究 実験 まとめ 背景
10.
提案手法:Unsupervised E-GraphSAGE ©2023 ARISE
analytics Reserved. 9 [4] E-GraphSAGE: A Graph Neural Network based Intrusion Detection System for IoT(NOMS 2022) E-GraphSAGE[4]をベースに、Metric Learningを導入することで教師なし学習を実現 本手法は3つの手順に分かれる Source IP/Port Destination IP/Port Device Network 1b 2b 1a 1c 2c Create Graph ➡ ➡ Sub-Graph Extraction ➡ Graph Embedding Model Anomaly Detection with kNN 手順① 通信データからのグラフ構築 手順② ノード埋め込みモデルの学習 手順③ 異常検知モデルの学習 E-GraphSAGEベース 今回の改良部分
11.
手順① 通信データからのグラフ構築 ©2023 ARISE
analytics Reserved. 10 ホストをノードに、ホスト間通信をエッジとみなすことで、グラフを用いた通信表現が可能 ただし、一般的なGNNはノードに特徴(通信データ)が保有されていることを前提としている ➡ノードに通信データが含まれるように変換を行う Source IP/Port Destination IP/Port 1 2 3 a b c Source IP/Port Destination IP/Port = ⇔ 1b 2b 3b 1a 1c 2c Device Network Device Graph Swap Edges and Nodes 3c 1b 2b 1a 1c 2c 通信データはエッジに格納されており 一般的なGNNでは処理が難しい 通信データ 通信データ ノードとエッジを入れ替えることで、 ノードに通信データを格納することが可能 これにより、一般的なGNNでの処理が可能になる
12.
手順② ノード埋め込みモデルの学習 –
Metric Learning ©2023 ARISE analytics Reserved. 11 教師情報を用いないMetric Learningを導入し、教師なしによるノード埋め込みモデルを学習 近くなるように学習 𝑧𝑢 𝑧𝑣𝑛 𝑧𝑣 𝐹(𝑆𝑢) 𝐹(𝑆𝑣) 𝐹(𝑆𝑣𝑛 ) アンカー・ポジティブ・ネガティブを用い、 以下を実現する埋め込みモデル 𝐹(𝑥) を学習 アンカー𝒖-ポジティブ𝒗 :近くなる アンカー𝒖-ネガティブ𝒗𝒏 :遠くなる Metric Learningの損失関数(Triplet Loss) 遠くなるように学習 アンカー ポジティブ ネガティブ
13.
手順② ノード埋め込みモデルの学習 –
ノードの選択 ©2023 ARISE analytics Reserved. 12 ※ 隣接ノードからは似たサブグラフが、遠方ノードからは異なるサブグラフが構築される、という考え方に基づく 選択したアンカーノードに対し、構成されるサブグラフが似る/似ないようにポジティブ/ネガティブを選択し、ノード を起点とするサブグラフを埋め込むモデルを学習 k-hop 近くなるように学習 𝑢 𝑣 𝑣𝑛 𝑧𝑢 𝑧𝑣𝑛 𝑧𝑣 𝑆𝑢 𝑆𝑣 𝑆𝑣𝑛 𝐹(𝑆𝑢) 𝐹(𝑆𝑣) 𝐹(𝑆𝑣𝑛 ) ① 埋め込み対象 アンカーノード𝒖 を決定 ② ポジティブサンプルである隣接ノード𝒗 と ネガティブサンプルである遠方ノード𝒗𝒏を決定 ③ それぞれのノードに対し、k-hop samplingを行いサブグラフを構築 (k=2の例) ④ サブグラフの埋め込みを学習 アンカーノード𝒖-隣接ノード𝒗 :近くなる アンカーノード𝒖-遠方ノード𝒗𝒏 :遠くなる 遠くなるように学習 ポジティブ ネガティブ アンカー
14.
手順③ 異常検知モデルの学習 ©2023 ARISE
analytics Reserved. 13 ※ 埋め込みモデルの学習データと異常検知モデルの学習データは同一のものを用いる 得られたノードの埋め込み特徴(通信データの埋め込み特徴)を用い、異常検知モデルを学習 異常検知モデルは、Metric Learningと同様に距離計算ベースの手法であるkNN Anomaly Detectorを採用 検知対象サンプルに対し、N個の近隣サンプルとの距離を算出 距離が事前に学習した閾値を上回った場合は異常とみなす (k=3の例) 正常サンプルの処理例 異常サンプルの処理例 最大距離 : 4.2 最大距離 : 14.7
15.
目次 ©2023 ARISE analytics
Reserved. 14 提案手法 先行研究 実験 まとめ 背景
16.
実験設定 ©2023 ARISE analytics
Reserved. 15 ※1 E-GraphSAGEと同様の前処理を行うため、IPアドレスおよびポートは除去して用いた。 ※2 すべての種類の異常通信をまとめてひとつの異常通信として扱う。 提案手法の効果を確認するため、IoTの通信データによる公開データセットを用いた実験を実施 【データセット内訳】 【比較対象】 ① 通信データの特徴表現(埋め込み前の既存特徴 / 提案手法 ) ② 異常検知アルゴリズム(kNN / AutoEncoder / One Class SVM) 【評価方法】 ① t-SNEを用いた埋め込み特徴の可視化 ② 二値分類による通信異常検知(正常通信か異常通信※2かを分類)とROCAUCを用いた評価 データセット 異常通信の種類 数 正常通信の割合 (%) 既存特徴の次元※1 訓練データの件数 (正常通信のみ) 検証データの件数 (異常通信含む) テストデータの件数 (異常通信含む) UNSW-NB15 9 96.83 43 485,001 5,000 210,000 The TON_IoT 9 65.07 39 316,043 5,000 210,000
17.
実験① 埋め込み特徴の可視化 ©2023 ARISE
analytics Reserved. 16 提案手法によるノード埋め込み(通信データ埋め込み)結果をt-SNEで可視化 UNSW-NB15 The TON_IoT 青色:正常通信から生成されたサンプル それ以外の色:異常通信から生成されたサンプル 同一種別の通信によるまとまりが確認できている ↓ 提案手法により、正常通信と異常通信を分離できるような特徴表現を学習できている
18.
実験② 通信異常検知 ©2023 ARISE
analytics Reserved. 17 提案手法によるノード埋め込み(通信データ埋め込み)結果と異常検知アルゴリズムの組み合わせを検証 比較対象として、通信データに対し異常検知アルゴリズムを適用したケース(RAW)を算出 各データセットで高精度であったのはRAW(AE)/RAW(kNN) ただし、平均値は提案手法(kNN)が最も高精度であり、データセット間の差分(ばらつき)も最も小さい ↓ 本実験の範囲において、Unsupervised E-GraphSAGE Embedding Model(kNN)は データセットによらず汎用的な性能が得られている ↓ ↑ ↑ ↑
19.
目次 ©2023 ARISE analytics
Reserved. 18 提案手法 先行研究 実験 まとめ 背景
20.
まとめ ©2023 ARISE analytics
Reserved. 19 【本研究の概要】 IoTデバイスの通信データを対象とした異常通信検知を目的に、教師なしGNN異常検知を提案 【本研究の成果】 ① Metric Learning を用いた教師なし学習によるグラフの埋め込み手法の提案 ② 異常通信検知向け公開データセットを用い、本手法と異常検知手法を組み合わせることで汎用的な性 能が得られていることを確認 【今後の展望】 ① ノード埋め込みモデルの学習と異常検知モデルの学習の統合 ② 組み合わせる異常検知アルゴリズムの違いによる特性の分析
21.
Best Partner for
innovation, Best Creator for the future.