Submit Search
Upload
ソフトとかハードとか関係ございません
•
18 likes
•
10,952 views
MicroAd, Inc.(Engineer)
Follow
Developers Summit 2014(デブサミ2014) 佐藤由紀 発表資料
Read less
Read more
Technology
Report
Share
Report
Share
1 of 55
Download now
Download to read offline
Recommended
第59回日本生態学会 自由集会W25群落談話会「東北地方沿岸域の植生の現状と修復,回復にむけて」
第59回日本生態学会 自由集会W25群落談話会「東北地方沿岸域の植生の現状と修復,回復にむけて」
mizukitijp
Developers Summit 2015(デブサミ2015) 佐藤由紀 発表資料。 ******************************************************************************************* 2015年注目のワードと言われている「データレイク」。 「ビッグデータ」よりも想像力を掻き立てる良いワードだなぁと個人的に感じています。 100億件/日ものデータを毎日新たに蓄積し、そのデータを広告配信ロボットに活かし続けているマイクロアド。 これまでマイクロアドがどのようにデータを活用して広告配信を展開してきたか、そして、これから目指す世界のために構築を進めているマイクロアドなりの「データレイク」とはどのようなものか、ゆかりのある琵琶湖のことを織り交ぜつつお話いたします。
琵琶湖を中心とした世界のようなお話
琵琶湖を中心とした世界のようなお話
MicroAd, Inc.(Engineer)
社内で実施したMySQLの勉強会資料です。 クエリチューニングメインの内容になっています。 B-TREEインデックスやソートの仕組み、相関サブクエリなんかを取り扱っています。
MySQL勉強会 クエリチューニング編
MySQL勉強会 クエリチューニング編
MicroAd, Inc.(Engineer)
MySQL フォーク対決勉強会でご紹介した -MySQLバックアップ&レプリケーション 最適な運用のご紹介 - 高速半導体ストレージを利用したMySQLでの運用環境ではどのようなレプリケーションが望ましいか。 DRBDとBaculaを使った事例紹介・用例紹介
20140919 enterprise oss my sql study v5.tware-bacula intro
20140919 enterprise oss my sql study v5.tware-bacula intro
Izumi Akiyama
Apache Spark is one of the most popular big data projects, offering greatly improved performance over traditional MapReduce models. Much of Apache Spark’s power comes from lazy evaluation along with intelligent pipelining, which can make debugging more challenging. This talk will examine how to debug Apache Spark applications, the different options for logging in Spark’s variety of supported languages, as well as some common errors and how to detect them. Spark’s own internal logging can often be quite verbose, and this talk will examine how to effectively search logs from Apache Spark to spot common problems. In addition to the internal logging, this talk will look at options for logging from within our program itself. Spark’s accumulators have gotten a bad rap because of how they interact in the event of cache misses or partial recomputes, but this talk will look at how to effectively use Spark’s current accumulators for debugging as well as a look to future for data property type accumulators which may be coming to Spark in future version. In addition to reading logs, and instrumenting our program with accumulators, Spark’s UI can be of great help for quickly detecting certain types of problems. Video: https://www.youtube.com/watch?v=A0jYQlxc2FU&feature=youtu.be
Debugging PySpark - Spark Summit East 2017
Debugging PySpark - Spark Summit East 2017
Holden Karau
【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用 株式会社マイクロアド 大澤 昂太 第16回データ工学と情報マネジメントに関するフォーラム https://confit.atlas.jp/guide/event/deim2024/top #DEIM2024
20240229 DEIM2024 【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用
20240229 DEIM2024 【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用
MicroAd, Inc.(Engineer)
Kafka Connect:Iceberg Sink Connectorを使ってみる Open Table Format Study Group Tokyo Meetup #2 https://otfsg-tokyo.connpass.com/event/301158/ #otfsg_tokyo
Kafka Connect:Iceberg Sink Connectorを使ってみる
Kafka Connect:Iceberg Sink Connectorを使ってみる
MicroAd, Inc.(Engineer)
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話 2023/12/21 Kubernetes Novice Tokyo #29 LT #k8snovice
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話
MicroAd, Inc.(Engineer)
Recommended
第59回日本生態学会 自由集会W25群落談話会「東北地方沿岸域の植生の現状と修復,回復にむけて」
第59回日本生態学会 自由集会W25群落談話会「東北地方沿岸域の植生の現状と修復,回復にむけて」
mizukitijp
Developers Summit 2015(デブサミ2015) 佐藤由紀 発表資料。 ******************************************************************************************* 2015年注目のワードと言われている「データレイク」。 「ビッグデータ」よりも想像力を掻き立てる良いワードだなぁと個人的に感じています。 100億件/日ものデータを毎日新たに蓄積し、そのデータを広告配信ロボットに活かし続けているマイクロアド。 これまでマイクロアドがどのようにデータを活用して広告配信を展開してきたか、そして、これから目指す世界のために構築を進めているマイクロアドなりの「データレイク」とはどのようなものか、ゆかりのある琵琶湖のことを織り交ぜつつお話いたします。
琵琶湖を中心とした世界のようなお話
琵琶湖を中心とした世界のようなお話
MicroAd, Inc.(Engineer)
社内で実施したMySQLの勉強会資料です。 クエリチューニングメインの内容になっています。 B-TREEインデックスやソートの仕組み、相関サブクエリなんかを取り扱っています。
MySQL勉強会 クエリチューニング編
MySQL勉強会 クエリチューニング編
MicroAd, Inc.(Engineer)
MySQL フォーク対決勉強会でご紹介した -MySQLバックアップ&レプリケーション 最適な運用のご紹介 - 高速半導体ストレージを利用したMySQLでの運用環境ではどのようなレプリケーションが望ましいか。 DRBDとBaculaを使った事例紹介・用例紹介
20140919 enterprise oss my sql study v5.tware-bacula intro
20140919 enterprise oss my sql study v5.tware-bacula intro
Izumi Akiyama
Apache Spark is one of the most popular big data projects, offering greatly improved performance over traditional MapReduce models. Much of Apache Spark’s power comes from lazy evaluation along with intelligent pipelining, which can make debugging more challenging. This talk will examine how to debug Apache Spark applications, the different options for logging in Spark’s variety of supported languages, as well as some common errors and how to detect them. Spark’s own internal logging can often be quite verbose, and this talk will examine how to effectively search logs from Apache Spark to spot common problems. In addition to the internal logging, this talk will look at options for logging from within our program itself. Spark’s accumulators have gotten a bad rap because of how they interact in the event of cache misses or partial recomputes, but this talk will look at how to effectively use Spark’s current accumulators for debugging as well as a look to future for data property type accumulators which may be coming to Spark in future version. In addition to reading logs, and instrumenting our program with accumulators, Spark’s UI can be of great help for quickly detecting certain types of problems. Video: https://www.youtube.com/watch?v=A0jYQlxc2FU&feature=youtu.be
Debugging PySpark - Spark Summit East 2017
Debugging PySpark - Spark Summit East 2017
Holden Karau
【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用 株式会社マイクロアド 大澤 昂太 第16回データ工学と情報マネジメントに関するフォーラム https://confit.atlas.jp/guide/event/deim2024/top #DEIM2024
20240229 DEIM2024 【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用
20240229 DEIM2024 【技術報告】広告配信における安定して拡張性のある大量データ処理基盤の必要性と活用
MicroAd, Inc.(Engineer)
Kafka Connect:Iceberg Sink Connectorを使ってみる Open Table Format Study Group Tokyo Meetup #2 https://otfsg-tokyo.connpass.com/event/301158/ #otfsg_tokyo
Kafka Connect:Iceberg Sink Connectorを使ってみる
Kafka Connect:Iceberg Sink Connectorを使ってみる
MicroAd, Inc.(Engineer)
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話 2023/12/21 Kubernetes Novice Tokyo #29 LT #k8snovice
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話
Apache Kafkaでの大量データ処理がKubernetesで簡単にできて嬉しかった話
MicroAd, Inc.(Engineer)
2023/12/17 DevFestKyoto2023 Chromeの3rd Party Cookie廃止とインターネット広告への影響 https://gdgkyoto.connpass.com/event/303114/
Chromeの3rd Party Cookie廃止とインターネット広告への影響
Chromeの3rd Party Cookie廃止とインターネット広告への影響
MicroAd, Inc.(Engineer)
Trino Conference Tokyo 2023 https://techplay.jp/event/907388 #trinodb
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
MicroAd, Inc.(Engineer)
ScalaMatsuri2023登壇スライド https://scalamatsuri.org/ja/program/J1681614000 DDD&Scalaで作られたプロダクトはその後どうなったか? Current state of products made with DDD & Scala #ScalaMatsuri
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
MicroAd, Inc.(Engineer)
InternetWeek2022 C61 インターネット広告の羅針盤 〜 Post Cookie、嵐の時代 https://www.nic.ad.jp/iw2022/program/c61/ #iw2022jp
InternetWeek2022 - インターネット広告の羅針盤
InternetWeek2022 - インターネット広告の羅針盤
MicroAd, Inc.(Engineer)
「マイクロアドにおけるデータストアの使い分け」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
マイクロアドにおけるデータストアの使い分け
マイクロアドにおけるデータストアの使い分け
MicroAd, Inc.(Engineer)
「データセンターネットワークの構成について」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
データセンターネットワークの構成について
データセンターネットワークの構成について
MicroAd, Inc.(Engineer)
「インフラ領域の技術スタックや業務内容について紹介」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
インフラ領域の技術スタックや業務内容について紹介
インフラ領域の技術スタックや業務内容について紹介
MicroAd, Inc.(Engineer)
「RTBにおける機械学習の活用事例」 【23卒/24卒エンジニア】オンライン勉強会 https://microad.connpass.com/event/255302/ #MicroadDevs
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
MicroAd, Inc.(Engineer)
「アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜」 【23卒/24卒】オンライン勉強会:「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/255303/ #MicroadDevs
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 【23卒/24卒】オンライン勉強会:「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/255303/ #MicroadDevs
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
MicroAd, Inc.(Engineer)
「アドテクに機械学習を組み込むための推論の高速化」 2022/08/01 第68回 Machine Learning 15 minutes!! #ML15min https://machine-learning15minutes.connpass.com/event/252238/
アドテクに機械学習を組み込むための推論の高速化
アドテクに機械学習を組み込むための推論の高速化
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜」 https://microad.connpass.com/event/229092/
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/229092/
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「RTBにおける機械学習の活用事例」 https://microad.connpass.com/event/229093/
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
MicroAd, Inc.(Engineer)
2021/07/28 Atlassian Community Events Japan (#ACEJ) #47 https://ace.atlassian.com/events/details/atlassian-tokyo-presents-47-tokyo-atlassian-community-online-meetup-cloudyi-xing-yuzashi-li-jsmhuo-yong-shi-li-/
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
MicroAd, Inc.(Engineer)
2020/12/12 Devleopers Boost 2020登壇資料 Digdagを用いた大規模広告配信ログデータの加工と運用
Digdagを用いた大規模広告配信ログデータの加工と運用
Digdagを用いた大規模広告配信ログデータの加工と運用
MicroAd, Inc.(Engineer)
2020/09/05 - サマーオンライン勉強会 資料② これから機械学習エンジニアとして戦っていくみなさんへ~MLOpsというマインドセットについて~ https://hrmos.co/pages/microad/jobs/0000083
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
MicroAd, Inc.(Engineer)
2020/09/05 - サマーオンライン勉強会 資料① アドテクを支える技術~広告配信システムに課せられた100msの制約~ https://hrmos.co/pages/microad/jobs/0000083
インターネット広告の概要とシステム設計
インターネット広告の概要とシステム設計
MicroAd, Inc.(Engineer)
Developers Boost 2019での登壇資料です
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
MicroAd, Inc.(Engineer)
Cumulus Linuxを導入したワケ 第2回Cumulusユーザー会(2019/11/20) - connpass https://cumulus-interest.connpass.com/event/152392/
Cumulus Linuxを導入したワケ
Cumulus Linuxを導入したワケ
MicroAd, Inc.(Engineer)
Jue Wang, Wentao Zhu, Pichao Wang, Xiang Yu, Linda Liu, Mohamed Omar, Raffay Hamid, " Selective Structured State-Spaces for Long-Form Video Understanding" CVPR2023 https://openaccess.thecvf.com/content/CVPR2023/html/Wang_Selective_Structured_State-Spaces_for_Long-Form_Video_Understanding_CVPR_2023_paper.html
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
Toru Tamaki
2024年5月8日 Power Platform 勉強会 #1 LT資料
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
sn679259
More Related Content
More from MicroAd, Inc.(Engineer)
2023/12/17 DevFestKyoto2023 Chromeの3rd Party Cookie廃止とインターネット広告への影響 https://gdgkyoto.connpass.com/event/303114/
Chromeの3rd Party Cookie廃止とインターネット広告への影響
Chromeの3rd Party Cookie廃止とインターネット広告への影響
MicroAd, Inc.(Engineer)
Trino Conference Tokyo 2023 https://techplay.jp/event/907388 #trinodb
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
MicroAd, Inc.(Engineer)
ScalaMatsuri2023登壇スライド https://scalamatsuri.org/ja/program/J1681614000 DDD&Scalaで作られたプロダクトはその後どうなったか? Current state of products made with DDD & Scala #ScalaMatsuri
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
MicroAd, Inc.(Engineer)
InternetWeek2022 C61 インターネット広告の羅針盤 〜 Post Cookie、嵐の時代 https://www.nic.ad.jp/iw2022/program/c61/ #iw2022jp
InternetWeek2022 - インターネット広告の羅針盤
InternetWeek2022 - インターネット広告の羅針盤
MicroAd, Inc.(Engineer)
「マイクロアドにおけるデータストアの使い分け」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
マイクロアドにおけるデータストアの使い分け
マイクロアドにおけるデータストアの使い分け
MicroAd, Inc.(Engineer)
「データセンターネットワークの構成について」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
データセンターネットワークの構成について
データセンターネットワークの構成について
MicroAd, Inc.(Engineer)
「インフラ領域の技術スタックや業務内容について紹介」 2022/08/24【23卒/24卒エンジニア】オンライン勉強会 「オンプレ環境とクラウドのハイブリッド運用の活用事例」 #MicroadDevs
インフラ領域の技術スタックや業務内容について紹介
インフラ領域の技術スタックや業務内容について紹介
MicroAd, Inc.(Engineer)
「RTBにおける機械学習の活用事例」 【23卒/24卒エンジニア】オンライン勉強会 https://microad.connpass.com/event/255302/ #MicroadDevs
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
MicroAd, Inc.(Engineer)
「アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜」 【23卒/24卒】オンライン勉強会:「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/255303/ #MicroadDevs
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 【23卒/24卒】オンライン勉強会:「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/255303/ #MicroadDevs
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
MicroAd, Inc.(Engineer)
「アドテクに機械学習を組み込むための推論の高速化」 2022/08/01 第68回 Machine Learning 15 minutes!! #ML15min https://machine-learning15minutes.connpass.com/event/252238/
アドテクに機械学習を組み込むための推論の高速化
アドテクに機械学習を組み込むための推論の高速化
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜」 https://microad.connpass.com/event/229092/
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「アドテクを支える技術 〜1日40億リクエストを捌くには〜」 https://microad.connpass.com/event/229092/
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
MicroAd, Inc.(Engineer)
2021/11/06 オンライン勉強会 「RTBにおける機械学習の活用事例」 https://microad.connpass.com/event/229093/
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
MicroAd, Inc.(Engineer)
2021/07/28 Atlassian Community Events Japan (#ACEJ) #47 https://ace.atlassian.com/events/details/atlassian-tokyo-presents-47-tokyo-atlassian-community-online-meetup-cloudyi-xing-yuzashi-li-jsmhuo-yong-shi-li-/
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
MicroAd, Inc.(Engineer)
2020/12/12 Devleopers Boost 2020登壇資料 Digdagを用いた大規模広告配信ログデータの加工と運用
Digdagを用いた大規模広告配信ログデータの加工と運用
Digdagを用いた大規模広告配信ログデータの加工と運用
MicroAd, Inc.(Engineer)
2020/09/05 - サマーオンライン勉強会 資料② これから機械学習エンジニアとして戦っていくみなさんへ~MLOpsというマインドセットについて~ https://hrmos.co/pages/microad/jobs/0000083
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
MicroAd, Inc.(Engineer)
2020/09/05 - サマーオンライン勉強会 資料① アドテクを支える技術~広告配信システムに課せられた100msの制約~ https://hrmos.co/pages/microad/jobs/0000083
インターネット広告の概要とシステム設計
インターネット広告の概要とシステム設計
MicroAd, Inc.(Engineer)
Developers Boost 2019での登壇資料です
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
MicroAd, Inc.(Engineer)
Cumulus Linuxを導入したワケ 第2回Cumulusユーザー会(2019/11/20) - connpass https://cumulus-interest.connpass.com/event/152392/
Cumulus Linuxを導入したワケ
Cumulus Linuxを導入したワケ
MicroAd, Inc.(Engineer)
More from MicroAd, Inc.(Engineer)
(20)
Chromeの3rd Party Cookie廃止とインターネット広告への影響
Chromeの3rd Party Cookie廃止とインターネット広告への影響
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
ベアメタルで実現するSpark&Trino on K8sなデータ基盤
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
DDD&Scalaで作られたプロダクトはその後どうなったか?(Current state of products made with DDD & Scala)
InternetWeek2022 - インターネット広告の羅針盤
InternetWeek2022 - インターネット広告の羅針盤
マイクロアドにおけるデータストアの使い分け
マイクロアドにおけるデータストアの使い分け
データセンターネットワークの構成について
データセンターネットワークの構成について
インフラ領域の技術スタックや業務内容について紹介
インフラ領域の技術スタックや業務内容について紹介
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
アドテクを支える基盤 〜10Tバイト/日のビッグデータを処理する〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクに機械学習を組み込むための推論の高速化
アドテクに機械学習を組み込むための推論の高速化
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
マイクロアドのデータ基盤について アドテクを支える基盤〜10Tバイト/日のビッグデータを処理する〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
アドテクを支える技術 〜1日40億リクエストを捌くには〜
RTBにおける機械学習の活用事例
RTBにおける機械学習の活用事例
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
社内問い合わせ&申請・承認業務の 管理方法 - Jira Service Management 事例紹介 -
Digdagを用いた大規模広告配信ログデータの加工と運用
Digdagを用いた大規模広告配信ログデータの加工と運用
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
これから機械学習エンジニアとして戦っていくみなさんへ ~MLOps というマインドセットについて~
インターネット広告の概要とシステム設計
インターネット広告の概要とシステム設計
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
アドテクに携わって培った アプリをハイパフォーマンスに保つ設計とコーディング
Cumulus Linuxを導入したワケ
Cumulus Linuxを導入したワケ
Recently uploaded
Jue Wang, Wentao Zhu, Pichao Wang, Xiang Yu, Linda Liu, Mohamed Omar, Raffay Hamid, " Selective Structured State-Spaces for Long-Form Video Understanding" CVPR2023 https://openaccess.thecvf.com/content/CVPR2023/html/Wang_Selective_Structured_State-Spaces_for_Long-Form_Video_Understanding_CVPR_2023_paper.html
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
Toru Tamaki
2024年5月8日 Power Platform 勉強会 #1 LT資料
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
sn679259
2024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
NewSQLの可用性構成パターン (OCHaCafe Season 8 #4 発表資料) 2024年5月8日(水) NTTデータグループ 技術開発本部 小林 隆浩
NewSQLの可用性構成パターン(OCHaCafe Season 8 #4 発表資料)
NewSQLの可用性構成パターン(OCHaCafe Season 8 #4 発表資料)
NTT DATA Technology & Innovation
Syed Talal Wasim, Muzammal Naseer, Salman Khan, Ming-Hsuan Yang, Fahad Shahbaz Khan , "Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Grounding" arXiv2024 https://arxiv.org/abs/2401.00901v2
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
Toru Tamaki
2022年10月27日に社内向けに開催した勉強会資料の社外公開版です(発表8分程度)
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
Hiroshi Tomioka
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
CRI Japan, Inc.
LoRaWANスマート距離検出センサー DS20Lカタログ
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
CRI Japan, Inc.
2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
2024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
iPride Co., Ltd.
This is an introduction to MAPPO's paper.
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
atsushi061452
Key topics covered: - Understanding Ballerina's role in integrations: features and advantages - Designing and implementing REST APIs for integration - Designing and implementing GraphQL services with Ballerina - Monitoring and observing applications - Introduction to data integration
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
WSO2
Recently uploaded
(12)
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
NewSQLの可用性構成パターン(OCHaCafe Season 8 #4 発表資料)
NewSQLの可用性構成パターン(OCHaCafe Season 8 #4 発表資料)
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
ソフトとかハードとか関係ございません
1.
ソフトとかハードとか 関係ございません 株式会社マイクロアド 佐藤由紀 http://engineer.microad.jp/strawberry/
2.
3.
はじめに
4.
森は、海の恋人 1989年に宮城県気仙沼で始まった活動 漁民が山で広葉樹の植林を行う なぜ漁民が山で? ↓ 豊かな海を作るには 豊かな森が必要
5.
マングース導入の失敗 ハブ駆除のため奄美大島にマングースを導入 ↓ ハブは駆除されず ウサギ等の固有種が減少
6.
まとめると 海は海、山は山、と別々に考えず ハブとマングースだけを 入れた檻の中だけを考えず 山が良くなれば海が良くなると 全体として考える せめて、島全体まで考える
7.
部分最適解と全体最適解は異なる これは、自然科学における常識 システムの世界でも同じでは?
8.
ひとつの表現として・・・ システムは 「ソフトウェア」 「ハードウェア」 「ネットワーク」 で構成される ということができる ソフトウェア=アプリケーション/ミドルウェア。 ハードウェア=OS/サーバ
9.
アプリケーションエンジニア ソフトウェア ハードウェア サーバエンジニア ネットワーク ネットワークエンジニア スペシャリスト
10.
ソフトウェア アプリケーションエンジニア ハードウェア サーバエンジニア ネットワーク セクショナリズム ネットワークエンジニア と混同? スペシャリスト
11.
そろそろ、 ソフトかハードか フロントエンドかバックエンドか そんなセクショナリズムを 打破しませんか?
12.
この提言のため、 FPGAをwebサービスへ導入 することの可能性についてお話します
13.
本日の流れ 一.FPGAとは 二.FPGAとの出会い 三.使い道の可能性 四.FPGA導入への第一歩
14.
一、FPGAとは
15.
一.FPGAとは Field-Programmable Gate Array 現場で 内部処理を書き換え可能な 論理回路チップ
16.
一.FPGAとは データウェアハウス(Netezza) 液晶ディスプレイの制御 超音波診断のリアルタイム表示
高速ネットワーク処理(ルータ等) などに使われる、夢のチップ!
17.
FPGA評価キットのボード FPGA
18.
ソフトウェア FPGA ハードウェア 実現できる機能 ネットワーク モデルが簡易すぎ、わかりにくい再構築 ⇒ ⇒
19.
レイヤ 機能 ソフトウェア ハードウェア ネットワーク
20.
FPGA ソフトウェア機能も ハードウェア機能も ネットワーク機能も 実現可能
21.
ソフトウェア、ハードウェア、ネットワーク の機能を実現できるFPGA 誰が扱うの? アプリケーションエンジニア? そんな議論は サーバエンジニア? 不毛だとは ネットワークエンジニア? 思いませんか?
22.
もう一度・・・ そろそろ、 ソフトかハードか フロントエンドかバックエンドか そんなセクショナリズムを 打破しませんか?
23.
二、FPGAとの出会い
24.
MicroAdにて 2011年に導入したNetezzaに FPGAが利用されている事から その有用性を知る Netezzaは、 アプライアンスの データウェアハウス
25.
通常のデータウェアハウス select/insert Netezza select/insert <専用> ネットワークコントローラ 特定処理の ためだけに 最適化 されている <汎用> きめ細かに 多種多様な CPU 事ができる OS FPGA FPGA メモリ コントローラ メモリ SATA コントローラ HDD メモリ HDD
26.
通常の反応 反射 (CPU的) (FPGA的) ③脳【判断/指示】 ①刺激 ①刺激 ②脊髄 ②脊髄 【既定の動作を指示】 FPGAは反射の際の脊髄のように、 瞬時に既定の動作を行う
27.
大量のデータを用い、高速化が 必要な処理にFPGAを活用できる ↓ MicroAdのシステムと 特徴が合致!
28.
三、使い道の可能性
29.
MicroAdのご紹介 自社でプラットフォームシステムを開 発し、広告配信事業を行う会社 広告をオークション形式で配信 100円 主催 参加system system A 参加system 30円 Webユーザ B
30.
オークション参加システム 「広告を見る人」 人 × 広告主サイト 相性 「表示ページ」 “どの広告”を “いくら”で 入札するかを 決定 広告
× 配信ページ 相性 人 × デモグラ情報 性別、居住地域、年代 人 × 広告閲覧回数 どの広告を何回見たか 等・・・
31.
MicroAdのシステムの特徴 大量リクエスト(60億件/日)に対し 大量データ(10億件を10セット)を参照し 高速にレスポンス(5ミリ秒)する FPGAが使えるかも?!
32.
使い道の可能性 大量リクエストのフィルタリング/正規化/ 処理の分岐 参照する大量データのKVSとして 妄想 オークション処理全てをFPGA上で 実現できたら、すごく面白いかもしれない
33.
状況 昨年12月より検証開始し、2014年夏に は一部導入予定。 検証は、こんな場所で実施しています
34.
GARAGE
35.
東京湾付近某所
36.
37.
小休止
38.
小休止:StormとHBaseの活用事例 StormとHbaseを活用したシステムを 開発し、2013年9月より稼働 実現機能: メインプロダクト に搭載した、 新しいリターゲティング機能
39.
リターゲティングとは 再来訪を促す広告配信手法 (1)広告主サイト訪問 成約 (4)再来訪 (2)離脱 (3)追跡 他のサイトで広告を掲載 サイトを離れる
40.
MicroAdのリターゲティングの変遷 初代 【リリース時期】2007年 【特徴】細やかなリタゲ設定が可能 二代目 【リリース時期】2011年 【特徴】リアルタイム性を向上 三代目 【リリース時期】2013年 【特徴】最も細やかなリタゲ設定ができ、 その上、リアルタイム(50ミリ秒) なデータ反映を実現
41.
三代目リターゲティングの特徴(1) “細やかなリタゲ設定”とは 設定の一例(ファッションECサイトの例) A)女性服のページに 三か月以内に5回~9回 B)子供服のページに 昨年の11月に2回以上 5回~9回 三か月前 現在 2回以上 11/1 11/30 C)二か月以内に購入 二か月前 「A and B
not C」や「A and B and C」などの指定が可能 (もっと細やかな設定も可能) 現在
42.
処理時に参照するデータの量 細やかな 設定を実現 3 6 5 日 分 1日分 3時間分 初 代 二 代 目 三 代 目
43.
三代目リターゲティングの特徴(2) “50ミリ秒でのデータ反映” 広告主サイトに訪問 した瞬間(50ms) データが反映される ↓ 直後から、 その広告主の広告が 配信される (1)広告主 サイト訪問 (2)離脱 (3)追跡
44.
データ反映タイムラグ リアルタイム化 を実現 2 4 時 間 2時間 初 代 二 代 目 50ミリ秒 三 代 目
45.
基盤となるミドルウェアの変遷 初代 二代目 三代目 MapReduce Hive データ 集計・反映 データ蓄積 HDFS,MySQL
HDFS Storm 広告配信時 MySQL 参照データ KyotoTycoon KyotoTycoon HBase
46.
システム構成の概要 ※数値は2014年2月1日時点 120億件 (300GB) 6,000QPS (3億件/日) Storm KyotoTycoon 4.4億件
47.
運用のポイント MQに余裕を持たせることで、Stormや HBaseのメンテナンスがしやすい Zabbixで各種統計情報を取得し、パ フォーマンス解析に活用 現状の課題 キャッシュ破棄等で、HBaseのパフォー マンスが劣化するタイミングがある
48.
四.FPGA導入への第一歩
49.
必要な知識・スキル ソフトウェア 1. HDL(ハードウェア定義言語) 2. FPGAの仕組み ハードウェア 3.
論理電子回路 ネットワーク
50.
この二つが分かっていれば、 「論理電子回路」はとても簡単です 1. 2. 論理演算(AND,OR・・・) 2進数計算 →調べてみてください
51.
あとは、入門キット(20,000円~)を購入し、 HDLでコーディング/コンパイル できたけど・・・ さっきの妄想を実現するには程遠い
52.
次はもうちょっと本格的な評価キットを購入 し、新たなコーディング ここまで出来れば、FPGAの扱いはOK!
53.
参考:本格的なアプローチ 1. 回路設計 →回路CADのスキルも必要 2. パターン設計 →アナログ/デジタル回路のスキルも必要 3. 4. 基板/部品組み立ての発注 HDLでコーディング/コンパイル ※実は、アプライアンス製品を買っちゃう方 法もありますよ。
54.
最後にもう一度・・・ そろそろ、 ソフトかハードか フロントエンドかバックエンドか そんなセクショナリズムを 打破しませんか?
55.
ありがとうございました 株式会社マイクロアド 佐藤由紀 http://engineer.microad.jp/strawberry/
Download now