SlideShare a Scribd company logo
1 of 20
Download to read offline
n 

      l 

      l 
            • 



n 
      l 
      l 
n 
n 
n 
n 
n 
n 
Intel Single Chip Cloud Computer
                      48 cores (x86)




TILERA TILE-Gx100
   100 cores (MIPS)
n 
      l 
      l 
n 
      l 
      l 
            DRAM Controller   DRAM Controller




                                                        Local
                                                       Memory
                                                Core
                                                        INCC


                                                                R

                                                       Node




            DRAM Controller   DRAM Controller
n 
      l 
      l 
n 
      l 
            • 
            • 
      l 

            • 
            • 
            • 
n 
      l 
            • 
      l 
            • 
                 – 
            • 
                 – 
n 
      l 
      l 
      l 




      l 
      l 
            • 
n 


n 
      l 


n 
      l 

            • 
n 
      l 
      l 

                                                    Core

                                            store             stall

                                               Store Buffer
                 : data
                 : control                 store              stall

                                            Violation Detector
                   load                Head Address        0x1000
                                                                       load
                                        Tail Address       0x2000      (DMA Status)

                                          DMA Req           Yes
                             store
                                            store      DMA status
                               read
            Local Memory                     DMA Controller
            (Scratchpad)                               PUT to (3,2)
                               write    DMA reg

                                                    DMA Transfer
                                                                      Rout
                                                                       er
                                                    On Chip Network
n 


      l 


      l 
            • 
                 – 
                 – 
            • 
                 – 
                 – 
n 
      l 
      l 
      l 
      l 
n 
      l 
      l 
            • 
n 
      l 
      l 
      l 


n 
n 
      l 

            • 
n 
      l 

            • 
n 
      l 

            • 
n 
      l 
n 
      l 
n 
                               n 
                                        l 
                                        l 
                                          Performance (# cores = 16)                                                                        Performance (# cores = 64)
                             100.00%                                                                                         100.00%
Normalized Execution Cycle




                                                                                                Normalized Execution Cycle
                             95.00%                                                                                          95.00%


                             90.00%                                                                                          90.00%


                             85.00%                                                                                          85.00%


                             80.00%                                                                                          80.00%
                                                                            Matrix                                                                                         Matrix
                                                                                      Bitonic                                                                                        Bitonic
                                         Pipeline   Stencil   All to All   Multiply                                                     Pipeline   Stencil   All to All   Multiply
                                                                                       Sort                                                                                           Sort
                                                                           Cannon                                                                                         Cannon
                              #buf=8     96.27%     99.85%    97.86%       97.25%     99.98%                                  #buf=8    96.83%     99.83%    91.91%       92.80%     99.90%
                              #buf=16    92.64%     99.85%    94.86%       97.21%     99.98%                                  #buf=16   94.20%     99.83%    89.27%       92.80%     99.82%
                              #buf=32    89.50%     99.85%    92.26%       97.19%     99.98%                                  #buf=32   91.90%     99.83%    81.51%       92.80%     99.87%
n 

                         l 

                         l 
                                 Core Stall Rate (# cores = 16)                                                           Core Stall Rate (# cores = 64)
                        30.00%                                                                                   30.00%

                        25.00%                                                                                   25.00%

                        20.00%                                                                                   20.00%
Stall Rate




                                                                                         Stall Rate
                        15.00%                                                                                   15.00%

                        10.00%                                                                                   10.00%

                        5.00%                                                                                    5.00%

                        0.00%                                                                                    0.00%
                                                                     Matrix                                                                                   Matrix
                                                                               Bitonic                                                                                  Bitonic
                                  Pipeline   Stencil   All to All   Multiply                                               Pipeline   Stencil   All to All   Multiply
                                                                                Sort                                                                                     Sort
                                                                    Cannon                                                                                   Cannon
             Blocking             10.22%     0.22%     21.39%       1.32%      3.76%                  Blocking              7.43%     0.31%     26.57%       2.33%      8.05%
             Proposal: #buf=8     0.71%      0.00%     19.33%       0.68%      1.74%                  Proposal: #buf=8      0.16%     0.00%     19.42%       1.64%      4.46%
             Proposal: #buf=16    0.55%      0.00%     18.02%       0.66%      1.73%                  Proposal: #buf=16     0.17%     0.00%     16.37%       1.63%      4.38%
             Proposal: #buf=32    0.00%      0.00%     16.70%       0.62%      1.73%                  Proposal: #buf=32     0.00%     0.00%      9.88%       1.65%      4.36%
n 

                                            l 
                                            l 
                                            l 
                                           Aggressive Store Rate (# cores = 16)                                                                     Aggressive Store Rate (# cores = 64)
                                          1.400%                                                                                                 3.500%
Rate of Store into Store Buffer




                                                                                                       Rate of Store into Store Buffer
                                          1.200%                                                                                                 3.000%
                                          1.000%
                                                                                                                                                 2.500%
                                          0.800%
                                                                                                                                                 2.000%
                                          0.600%
                                          0.400%                                                                                                 1.500%

                                          0.200%                                                                                                 1.000%
                                          0.000%                                                                                                 0.500%
                                                                                   Matrix
                                                                                   Multipl
                                                     Pipelin              All to             Bitonic                                             0.000%
                                                               Stencil               y                                                                                                          Matrix
                                                        e                  All                Sort                                                                                                        Bitonic
                                                                                   Canno                                                                     Pipeline   Stencil   All to All   Multiply
                                                                                     n                                                                                                                     Sort
                                                                                                                                                                                               Cannon
                                  Proposal: #buf=8   0.456%    0.013%    0.311%    0.135%    0.003%                                      Proposal: #buf=8    0.330%     0.000%    1.147%       0.046%     0.014%
                                  Proposal: #buf=16 0.691%     0.013%    0.517%    0.131%    0.003%                                      Proposal: #buf=16   0.486%     0.000%    1.852%       0.045%     0.015%
                                  Proposal: #buf=32 1.194%     0.013%    0.932%    0.111%    0.003%                                      Proposal: #buf=32   0.843%     0.000%    3.092%       0.044%     0.017%
n 
                                             l 

                                                      • 
                                             l 

                                        Aggressive Store Rate (for Data) (# cores = 16)                                                                 Aggressive Store Rate (for Data) # cores = 64
                                           1.000%                                                                                                       3.500%
Rate of Store into Store Buffer




                                                                                                             Rate of Store into Store Buffer
                                                                                                                                                        3.000%
                                           0.800%
                                                                                                                                                        2.500%
                                           0.600%                                                                                                       2.000%

                                           0.400%                                                                                                       1.500%

                                                                                                                                                        1.000%
                                           0.200%
                                                                                                                                                        0.500%

                                           0.000%                                                                                                       0.000%
                                                                                         Matrix                                                                                                       Matrix
                                                                                                   Bitonic                                                                                                      Bitonic
                                                      Pipeline   Stencil   All to All   Multiply                                                                   Pipeline   Stencil   All to All   Multiply
                                                                                                    Sort                                                                                                         Sort
                                                                                        Cannon                                                                                                       Cannon
                                  Proposal: #buf=8    0.000%     0.000%    0.311%       0.000%     0.000%                                      Proposal: #buf=8    0.000%     0.000%    1.147%       0.000%     0.000%
                                  Proposal: #buf=16   0.217%     0.000%    0.517%       0.000%     0.000%                                      Proposal: #buf=16   0.147%     0.000%    1.852%       0.000%     0.001%
                                  Proposal: #buf=32   0.703%     0.000%    0.932%       0.000%     0.000%                                      Proposal: #buf=32   0.495%     0.000%    3.092%       0.000%     0.002%
n 

      l 

      l 
            • 



n 
      l 
      l 
n 
      l 
n 
      l 
n 
      l 
n 
      l 
n 
      l 
      l 

More Related Content

More from Shinya Takamaeda-Y

オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムオープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムShinya Takamaeda-Y
 
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモ
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモDNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモ
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモShinya Takamaeda-Y
 
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発Shinya Takamaeda-Y
 
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)Shinya Takamaeda-Y
 
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...Shinya Takamaeda-Y
 
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)Shinya Takamaeda-Y
 
ゆるふわコンピュータ (IPSJ-ONE2017)
ゆるふわコンピュータ (IPSJ-ONE2017)ゆるふわコンピュータ (IPSJ-ONE2017)
ゆるふわコンピュータ (IPSJ-ONE2017)Shinya Takamaeda-Y
 
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」Shinya Takamaeda-Y
 
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)Shinya Takamaeda-Y
 
PythonとVeriloggenを用いたRTL設計メタプログラミング
PythonとVeriloggenを用いたRTL設計メタプログラミングPythonとVeriloggenを用いたRTL設計メタプログラミング
PythonとVeriloggenを用いたRTL設計メタプログラミングShinya Takamaeda-Y
 
マルチパラダイム型高水準ハードウェア設計環境の検討
マルチパラダイム型高水準ハードウェア設計環境の検討マルチパラダイム型高水準ハードウェア設計環境の検討
マルチパラダイム型高水準ハードウェア設計環境の検討Shinya Takamaeda-Y
 
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)Shinya Takamaeda-Y
 
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみよう
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみようPythonとPyCoRAMでお手軽にFPGAシステムを開発してみよう
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみようShinya Takamaeda-Y
 
A CGRA-based Approach for Accelerating Convolutional Neural Networks
A CGRA-based Approachfor Accelerating Convolutional Neural NetworksA CGRA-based Approachfor Accelerating Convolutional Neural Networks
A CGRA-based Approach for Accelerating Convolutional Neural NetworksShinya Takamaeda-Y
 
Pythonを用いた高水準ハードウェア設計環境の検討
Pythonを用いた高水準ハードウェア設計環境の検討Pythonを用いた高水準ハードウェア設計環境の検討
Pythonを用いた高水準ハードウェア設計環境の検討Shinya Takamaeda-Y
 
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみよう
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみようPythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみよう
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみようShinya Takamaeda-Y
 
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)Shinya Takamaeda-Y
 
FPGA・リコンフィギャラブルシステム研究の最新動向
FPGA・リコンフィギャラブルシステム研究の最新動向FPGA・リコンフィギャラブルシステム研究の最新動向
FPGA・リコンフィギャラブルシステム研究の最新動向Shinya Takamaeda-Y
 
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)Shinya Takamaeda-Y
 

More from Shinya Takamaeda-Y (20)

オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムオープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
 
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモ
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモDNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモ
DNNのモデル特化ハードウェアを生成するオープンソースコンパイラNNgenのデモ
 
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発
ディープニューラルネットワーク向け拡張可能な高位合成コンパイラの開発
 
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)
Veriloggen.Stream: データフローからハードウェアを作る(2018年3月3日 高位合成友の会 第5回 @東京工業大学)
 
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...
Veriloggen.Thread & Stream: 最高性能FPGAコンピューティングを 目指したミックスドパラダイム型高位合成 (FPGAX 201...
 
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)
Pythonによるカスタム可能な高位設計技術 (Design Solution Forum 2016@新横浜)
 
ゆるふわコンピュータ (IPSJ-ONE2017)
ゆるふわコンピュータ (IPSJ-ONE2017)ゆるふわコンピュータ (IPSJ-ONE2017)
ゆるふわコンピュータ (IPSJ-ONE2017)
 
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」
助教が吼える! 各界の若手研究者大集合「ハードウェアはやわらかい」
 
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)
Debian Linux on Zynq (Xilinx ARM-SoC FPGA) Setup Flow (Vivado 2015.4)
 
PythonとVeriloggenを用いたRTL設計メタプログラミング
PythonとVeriloggenを用いたRTL設計メタプログラミングPythonとVeriloggenを用いたRTL設計メタプログラミング
PythonとVeriloggenを用いたRTL設計メタプログラミング
 
マルチパラダイム型高水準ハードウェア設計環境の検討
マルチパラダイム型高水準ハードウェア設計環境の検討マルチパラダイム型高水準ハードウェア設計環境の検討
マルチパラダイム型高水準ハードウェア設計環境の検討
 
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)
Veriloggen: Pythonによるハードウェアメタプログラミング(第3回 高位合成友の会 @ドワンゴ)
 
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみよう
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみようPythonとPyCoRAMでお手軽にFPGAシステムを開発してみよう
PythonとPyCoRAMでお手軽にFPGAシステムを開発してみよう
 
A CGRA-based Approach for Accelerating Convolutional Neural Networks
A CGRA-based Approachfor Accelerating Convolutional Neural NetworksA CGRA-based Approachfor Accelerating Convolutional Neural Networks
A CGRA-based Approach for Accelerating Convolutional Neural Networks
 
Pythonを用いた高水準ハードウェア設計環境の検討
Pythonを用いた高水準ハードウェア設計環境の検討Pythonを用いた高水準ハードウェア設計環境の検討
Pythonを用いた高水準ハードウェア設計環境の検討
 
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみよう
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみようPythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみよう
Pythonによる高位設計フレームワークPyCoRAMでFPGAシステムを開発してみよう
 
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)
コンピュータアーキテクチャ研究の最新動向〜ISCA2015参加報告〜 @FPGAエクストリーム・コンピューティング 第7回 (#fpgax #7)
 
Zynq+PyCoRAM(+Debian)入門
Zynq+PyCoRAM(+Debian)入門Zynq+PyCoRAM(+Debian)入門
Zynq+PyCoRAM(+Debian)入門
 
FPGA・リコンフィギャラブルシステム研究の最新動向
FPGA・リコンフィギャラブルシステム研究の最新動向FPGA・リコンフィギャラブルシステム研究の最新動向
FPGA・リコンフィギャラブルシステム研究の最新動向
 
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)
PyCoRAMによるPythonを用いたポータブルなFPGAアクセラレータ開発 (チュートリアル@ESS2014)
 

Recently uploaded

How AI, OpenAI, and ChatGPT impact business and software.
How AI, OpenAI, and ChatGPT impact business and software.How AI, OpenAI, and ChatGPT impact business and software.
How AI, OpenAI, and ChatGPT impact business and software.Curtis Poe
 
Scanning the Internet for External Cloud Exposures via SSL Certs
Scanning the Internet for External Cloud Exposures via SSL CertsScanning the Internet for External Cloud Exposures via SSL Certs
Scanning the Internet for External Cloud Exposures via SSL CertsRizwan Syed
 
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)Mark Simos
 
Designing IA for AI - Information Architecture Conference 2024
Designing IA for AI - Information Architecture Conference 2024Designing IA for AI - Information Architecture Conference 2024
Designing IA for AI - Information Architecture Conference 2024Enterprise Knowledge
 
WordPress Websites for Engineers: Elevate Your Brand
WordPress Websites for Engineers: Elevate Your BrandWordPress Websites for Engineers: Elevate Your Brand
WordPress Websites for Engineers: Elevate Your Brandgvaughan
 
Gen AI in Business - Global Trends Report 2024.pdf
Gen AI in Business - Global Trends Report 2024.pdfGen AI in Business - Global Trends Report 2024.pdf
Gen AI in Business - Global Trends Report 2024.pdfAddepto
 
Story boards and shot lists for my a level piece
Story boards and shot lists for my a level pieceStory boards and shot lists for my a level piece
Story boards and shot lists for my a level piececharlottematthew16
 
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage Cost
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage CostLeverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage Cost
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage CostZilliz
 
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptx
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptxMerck Moving Beyond Passwords: FIDO Paris Seminar.pptx
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptxLoriGlavin3
 
What's New in Teams Calling, Meetings and Devices March 2024
What's New in Teams Calling, Meetings and Devices March 2024What's New in Teams Calling, Meetings and Devices March 2024
What's New in Teams Calling, Meetings and Devices March 2024Stephanie Beckett
 
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdf
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdfHyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdf
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdfPrecisely
 
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks..."LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...Fwdays
 
Take control of your SAP testing with UiPath Test Suite
Take control of your SAP testing with UiPath Test SuiteTake control of your SAP testing with UiPath Test Suite
Take control of your SAP testing with UiPath Test SuiteDianaGray10
 
Powerpoint exploring the locations used in television show Time Clash
Powerpoint exploring the locations used in television show Time ClashPowerpoint exploring the locations used in television show Time Clash
Powerpoint exploring the locations used in television show Time Clashcharlottematthew16
 
"ML in Production",Oleksandr Bagan
"ML in Production",Oleksandr Bagan"ML in Production",Oleksandr Bagan
"ML in Production",Oleksandr BaganFwdays
 
Unraveling Multimodality with Large Language Models.pdf
Unraveling Multimodality with Large Language Models.pdfUnraveling Multimodality with Large Language Models.pdf
Unraveling Multimodality with Large Language Models.pdfAlex Barbosa Coqueiro
 
"Debugging python applications inside k8s environment", Andrii Soldatenko
"Debugging python applications inside k8s environment", Andrii Soldatenko"Debugging python applications inside k8s environment", Andrii Soldatenko
"Debugging python applications inside k8s environment", Andrii SoldatenkoFwdays
 
Dev Dives: Streamline document processing with UiPath Studio Web
Dev Dives: Streamline document processing with UiPath Studio WebDev Dives: Streamline document processing with UiPath Studio Web
Dev Dives: Streamline document processing with UiPath Studio WebUiPathCommunity
 
Developer Data Modeling Mistakes: From Postgres to NoSQL
Developer Data Modeling Mistakes: From Postgres to NoSQLDeveloper Data Modeling Mistakes: From Postgres to NoSQL
Developer Data Modeling Mistakes: From Postgres to NoSQLScyllaDB
 
Connect Wave/ connectwave Pitch Deck Presentation
Connect Wave/ connectwave Pitch Deck PresentationConnect Wave/ connectwave Pitch Deck Presentation
Connect Wave/ connectwave Pitch Deck PresentationSlibray Presentation
 

Recently uploaded (20)

How AI, OpenAI, and ChatGPT impact business and software.
How AI, OpenAI, and ChatGPT impact business and software.How AI, OpenAI, and ChatGPT impact business and software.
How AI, OpenAI, and ChatGPT impact business and software.
 
Scanning the Internet for External Cloud Exposures via SSL Certs
Scanning the Internet for External Cloud Exposures via SSL CertsScanning the Internet for External Cloud Exposures via SSL Certs
Scanning the Internet for External Cloud Exposures via SSL Certs
 
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)
Tampa BSides - Chef's Tour of Microsoft Security Adoption Framework (SAF)
 
Designing IA for AI - Information Architecture Conference 2024
Designing IA for AI - Information Architecture Conference 2024Designing IA for AI - Information Architecture Conference 2024
Designing IA for AI - Information Architecture Conference 2024
 
WordPress Websites for Engineers: Elevate Your Brand
WordPress Websites for Engineers: Elevate Your BrandWordPress Websites for Engineers: Elevate Your Brand
WordPress Websites for Engineers: Elevate Your Brand
 
Gen AI in Business - Global Trends Report 2024.pdf
Gen AI in Business - Global Trends Report 2024.pdfGen AI in Business - Global Trends Report 2024.pdf
Gen AI in Business - Global Trends Report 2024.pdf
 
Story boards and shot lists for my a level piece
Story boards and shot lists for my a level pieceStory boards and shot lists for my a level piece
Story boards and shot lists for my a level piece
 
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage Cost
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage CostLeverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage Cost
Leverage Zilliz Serverless - Up to 50X Saving for Your Vector Storage Cost
 
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptx
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptxMerck Moving Beyond Passwords: FIDO Paris Seminar.pptx
Merck Moving Beyond Passwords: FIDO Paris Seminar.pptx
 
What's New in Teams Calling, Meetings and Devices March 2024
What's New in Teams Calling, Meetings and Devices March 2024What's New in Teams Calling, Meetings and Devices March 2024
What's New in Teams Calling, Meetings and Devices March 2024
 
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdf
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdfHyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdf
Hyperautomation and AI/ML: A Strategy for Digital Transformation Success.pdf
 
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks..."LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...
"LLMs for Python Engineers: Advanced Data Analysis and Semantic Kernel",Oleks...
 
Take control of your SAP testing with UiPath Test Suite
Take control of your SAP testing with UiPath Test SuiteTake control of your SAP testing with UiPath Test Suite
Take control of your SAP testing with UiPath Test Suite
 
Powerpoint exploring the locations used in television show Time Clash
Powerpoint exploring the locations used in television show Time ClashPowerpoint exploring the locations used in television show Time Clash
Powerpoint exploring the locations used in television show Time Clash
 
"ML in Production",Oleksandr Bagan
"ML in Production",Oleksandr Bagan"ML in Production",Oleksandr Bagan
"ML in Production",Oleksandr Bagan
 
Unraveling Multimodality with Large Language Models.pdf
Unraveling Multimodality with Large Language Models.pdfUnraveling Multimodality with Large Language Models.pdf
Unraveling Multimodality with Large Language Models.pdf
 
"Debugging python applications inside k8s environment", Andrii Soldatenko
"Debugging python applications inside k8s environment", Andrii Soldatenko"Debugging python applications inside k8s environment", Andrii Soldatenko
"Debugging python applications inside k8s environment", Andrii Soldatenko
 
Dev Dives: Streamline document processing with UiPath Studio Web
Dev Dives: Streamline document processing with UiPath Studio WebDev Dives: Streamline document processing with UiPath Studio Web
Dev Dives: Streamline document processing with UiPath Studio Web
 
Developer Data Modeling Mistakes: From Postgres to NoSQL
Developer Data Modeling Mistakes: From Postgres to NoSQLDeveloper Data Modeling Mistakes: From Postgres to NoSQL
Developer Data Modeling Mistakes: From Postgres to NoSQL
 
Connect Wave/ connectwave Pitch Deck Presentation
Connect Wave/ connectwave Pitch Deck PresentationConnect Wave/ connectwave Pitch Deck Presentation
Connect Wave/ connectwave Pitch Deck Presentation
 

DMAベースメニーコアにおける通信オーバーヘッド削減手法 @SWoPP2011 ARC-196

  • 1.
  • 2. n  l  l  •  n  l  l 
  • 4. Intel Single Chip Cloud Computer 48 cores (x86) TILERA TILE-Gx100 100 cores (MIPS)
  • 5. n  l  l 
  • 6. n  l  l  DRAM Controller DRAM Controller Local Memory Core INCC R Node DRAM Controller DRAM Controller
  • 7. n  l  l  n  l  •  •  l  •  •  • 
  • 8. n  l  •  l  •  –  •  – 
  • 9. n  l  l  l  l  l  • 
  • 10. n  n  l  n  l  • 
  • 11. n  l  l  Core store stall Store Buffer : data : control store stall Violation Detector load Head Address 0x1000 load Tail Address 0x2000 (DMA Status) DMA Req Yes store store DMA status read Local Memory DMA Controller (Scratchpad) PUT to (3,2) write DMA reg DMA Transfer Rout er On Chip Network
  • 12. n  l  l  •  –  –  •  –  – 
  • 13. n  l  l  l  l  n  l  l  •  n  l  l  l  n 
  • 14. n  l  •  n  l  •  n  l  •  n  l  n  l 
  • 15. n  n  l  l  Performance (# cores = 16) Performance (# cores = 64) 100.00% 100.00% Normalized Execution Cycle Normalized Execution Cycle 95.00% 95.00% 90.00% 90.00% 85.00% 85.00% 80.00% 80.00% Matrix Matrix Bitonic Bitonic Pipeline Stencil All to All Multiply Pipeline Stencil All to All Multiply Sort Sort Cannon Cannon #buf=8 96.27% 99.85% 97.86% 97.25% 99.98% #buf=8 96.83% 99.83% 91.91% 92.80% 99.90% #buf=16 92.64% 99.85% 94.86% 97.21% 99.98% #buf=16 94.20% 99.83% 89.27% 92.80% 99.82% #buf=32 89.50% 99.85% 92.26% 97.19% 99.98% #buf=32 91.90% 99.83% 81.51% 92.80% 99.87%
  • 16. n  l  l  Core Stall Rate (# cores = 16) Core Stall Rate (# cores = 64) 30.00% 30.00% 25.00% 25.00% 20.00% 20.00% Stall Rate Stall Rate 15.00% 15.00% 10.00% 10.00% 5.00% 5.00% 0.00% 0.00% Matrix Matrix Bitonic Bitonic Pipeline Stencil All to All Multiply Pipeline Stencil All to All Multiply Sort Sort Cannon Cannon Blocking 10.22% 0.22% 21.39% 1.32% 3.76% Blocking 7.43% 0.31% 26.57% 2.33% 8.05% Proposal: #buf=8 0.71% 0.00% 19.33% 0.68% 1.74% Proposal: #buf=8 0.16% 0.00% 19.42% 1.64% 4.46% Proposal: #buf=16 0.55% 0.00% 18.02% 0.66% 1.73% Proposal: #buf=16 0.17% 0.00% 16.37% 1.63% 4.38% Proposal: #buf=32 0.00% 0.00% 16.70% 0.62% 1.73% Proposal: #buf=32 0.00% 0.00% 9.88% 1.65% 4.36%
  • 17. n  l  l  l  Aggressive Store Rate (# cores = 16) Aggressive Store Rate (# cores = 64) 1.400% 3.500% Rate of Store into Store Buffer Rate of Store into Store Buffer 1.200% 3.000% 1.000% 2.500% 0.800% 2.000% 0.600% 0.400% 1.500% 0.200% 1.000% 0.000% 0.500% Matrix Multipl Pipelin All to Bitonic 0.000% Stencil y Matrix e All Sort Bitonic Canno Pipeline Stencil All to All Multiply n Sort Cannon Proposal: #buf=8 0.456% 0.013% 0.311% 0.135% 0.003% Proposal: #buf=8 0.330% 0.000% 1.147% 0.046% 0.014% Proposal: #buf=16 0.691% 0.013% 0.517% 0.131% 0.003% Proposal: #buf=16 0.486% 0.000% 1.852% 0.045% 0.015% Proposal: #buf=32 1.194% 0.013% 0.932% 0.111% 0.003% Proposal: #buf=32 0.843% 0.000% 3.092% 0.044% 0.017%
  • 18. n  l  •  l  Aggressive Store Rate (for Data) (# cores = 16) Aggressive Store Rate (for Data) # cores = 64 1.000% 3.500% Rate of Store into Store Buffer Rate of Store into Store Buffer 3.000% 0.800% 2.500% 0.600% 2.000% 0.400% 1.500% 1.000% 0.200% 0.500% 0.000% 0.000% Matrix Matrix Bitonic Bitonic Pipeline Stencil All to All Multiply Pipeline Stencil All to All Multiply Sort Sort Cannon Cannon Proposal: #buf=8 0.000% 0.000% 0.311% 0.000% 0.000% Proposal: #buf=8 0.000% 0.000% 1.147% 0.000% 0.000% Proposal: #buf=16 0.217% 0.000% 0.517% 0.000% 0.000% Proposal: #buf=16 0.147% 0.000% 1.852% 0.000% 0.001% Proposal: #buf=32 0.703% 0.000% 0.932% 0.000% 0.000% Proposal: #buf=32 0.495% 0.000% 3.092% 0.000% 0.002%
  • 19. n  l  l  •  n  l  l 
  • 20. n  l  n  l  n  l  n  l  n  l  l