Submit Search
Upload
Apache sparkとapache cassandraで行うテキスト解析
•
Download as PPTX, PDF
•
0 likes
•
1,069 views
Kazutaka Tomita
Follow
Cassandra Summit Tokyo 2017
Read less
Read more
Data & Analytics
Report
Share
Report
Share
1 of 23
Download now
Recommended
20151205 Japan.R SparkRとParquet
20151205 Japan.R SparkRとParquet
Ryuji Tamagawa
20160127三木会 RDB経験者のためのspark
20160127三木会 RDB経験者のためのspark
Ryuji Tamagawa
QConTokyo2015「Sparkを用いたビッグデータ解析 〜後編〜」
QConTokyo2015「Sparkを用いたビッグデータ解析 〜後編〜」
Kazuki Taniguchi
Sparkのクエリ処理系と周辺の話題
Sparkのクエリ処理系と周辺の話題
Takeshi Yamamuro
データサイズ2ペタ ソネット・メディア・ネットワークスでのImpala活用とHadoop運用
データサイズ2ペタ ソネット・メディア・ネットワークスでのImpala活用とHadoop運用
Yoshikazu Suganuma
Spark GraphX で始めるグラフ解析
Spark GraphX で始めるグラフ解析
Yosuke Mizutani
pg_bigmを触り始めた人に伝えたいこと
pg_bigmを触り始めた人に伝えたいこと
Masahiko Sawada
Apache Hadoop HDFSの最新機能の紹介(2018)#dbts2018
Apache Hadoop HDFSの最新機能の紹介(2018)#dbts2018
Yahoo!デベロッパーネットワーク
Recommended
20151205 Japan.R SparkRとParquet
20151205 Japan.R SparkRとParquet
Ryuji Tamagawa
20160127三木会 RDB経験者のためのspark
20160127三木会 RDB経験者のためのspark
Ryuji Tamagawa
QConTokyo2015「Sparkを用いたビッグデータ解析 〜後編〜」
QConTokyo2015「Sparkを用いたビッグデータ解析 〜後編〜」
Kazuki Taniguchi
Sparkのクエリ処理系と周辺の話題
Sparkのクエリ処理系と周辺の話題
Takeshi Yamamuro
データサイズ2ペタ ソネット・メディア・ネットワークスでのImpala活用とHadoop運用
データサイズ2ペタ ソネット・メディア・ネットワークスでのImpala活用とHadoop運用
Yoshikazu Suganuma
Spark GraphX で始めるグラフ解析
Spark GraphX で始めるグラフ解析
Yosuke Mizutani
pg_bigmを触り始めた人に伝えたいこと
pg_bigmを触り始めた人に伝えたいこと
Masahiko Sawada
Apache Hadoop HDFSの最新機能の紹介(2018)#dbts2018
Apache Hadoop HDFSの最新機能の紹介(2018)#dbts2018
Yahoo!デベロッパーネットワーク
Sparkを用いたビッグデータ解析 〜 前編 〜
Sparkを用いたビッグデータ解析 〜 前編 〜
x1 ichi
Apache Sparkの紹介
Apache Sparkの紹介
Ryuji Tamagawa
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
NTT DATA OSS Professional Services
HBaseとSparkでセンサーデータを有効活用 #hbasejp
HBaseとSparkでセンサーデータを有効活用 #hbasejp
FwardNetwork
最新版Hadoopクラスタを運用して得られたもの
最新版Hadoopクラスタを運用して得られたもの
cyberagent
pg_bigmと類似度検索
pg_bigmと類似度検索
Masahiko Sawada
Apache Hadoopの現在と未来
Apache Hadoopの現在と未来
Yahoo!デベロッパーネットワーク
Bluemixを使ったTwitter分析
Bluemixを使ったTwitter分析
Tanaka Yuichi
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Future Of Data Japan
Big datauniversity
Big datauniversity
Tanaka Yuichi
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
NTT DATA OSS Professional Services
Spark Summit 2015 参加報告
Spark Summit 2015 参加報告
Katsunori Kanda
Pigのインストール
Pigのインストール
Noritada Shimizu
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
NTT DATA OSS Professional Services
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
Tanaka Yuichi
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
Tanaka Yuichi
Tokyo r45 beginner_2
Tokyo r45 beginner_2
Takashi Minoda
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Kazutaka Tomita
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Hadoop / Spark Conference Japan
モバイルするハニーポット無線LANアクセスポイント
モバイルするハニーポット無線LANアクセスポイント
Naoya Kaneko
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
Ryuji Tamagawa
More Related Content
What's hot
Sparkを用いたビッグデータ解析 〜 前編 〜
Sparkを用いたビッグデータ解析 〜 前編 〜
x1 ichi
Apache Sparkの紹介
Apache Sparkの紹介
Ryuji Tamagawa
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
NTT DATA OSS Professional Services
HBaseとSparkでセンサーデータを有効活用 #hbasejp
HBaseとSparkでセンサーデータを有効活用 #hbasejp
FwardNetwork
最新版Hadoopクラスタを運用して得られたもの
最新版Hadoopクラスタを運用して得られたもの
cyberagent
pg_bigmと類似度検索
pg_bigmと類似度検索
Masahiko Sawada
Apache Hadoopの現在と未来
Apache Hadoopの現在と未来
Yahoo!デベロッパーネットワーク
Bluemixを使ったTwitter分析
Bluemixを使ったTwitter分析
Tanaka Yuichi
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Future Of Data Japan
Big datauniversity
Big datauniversity
Tanaka Yuichi
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
NTT DATA OSS Professional Services
Spark Summit 2015 参加報告
Spark Summit 2015 参加報告
Katsunori Kanda
Pigのインストール
Pigのインストール
Noritada Shimizu
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
NTT DATA OSS Professional Services
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
Tanaka Yuichi
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
Tanaka Yuichi
Tokyo r45 beginner_2
Tokyo r45 beginner_2
Takashi Minoda
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Kazutaka Tomita
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Hadoop / Spark Conference Japan
What's hot
(20)
Sparkを用いたビッグデータ解析 〜 前編 〜
Sparkを用いたビッグデータ解析 〜 前編 〜
Apache Sparkの紹介
Apache Sparkの紹介
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
HBaseとSparkでセンサーデータを有効活用 #hbasejp
HBaseとSparkでセンサーデータを有効活用 #hbasejp
最新版Hadoopクラスタを運用して得られたもの
最新版Hadoopクラスタを運用して得られたもの
pg_bigmと類似度検索
pg_bigmと類似度検索
Apache Hadoopの現在と未来
Apache Hadoopの現在と未来
Bluemixを使ったTwitter分析
Bluemixを使ったTwitter分析
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Spark Streamingを活用したシステムの検証結果と設計時のノウハウ
Big datauniversity
Big datauniversity
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
PostgreSQLでpg_bigmを使って日本語全文検索 (MySQLとPostgreSQLの日本語全文検索勉強会 発表資料)
Spark Summit 2015 参加報告
Spark Summit 2015 参加報告
Pigのインストール
Pigのインストール
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
本当にあったHadoopの恐い話Blockはどこへきえた? (Hadoop / Spark Conference Japan 2016 ライトニングトー...
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
初めてのSpark streaming 〜kafka+sparkstreamingの紹介〜
NetflixにおけるPresto/Spark活用事例
NetflixにおけるPresto/Spark活用事例
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
Tokyo r45 beginner_2
Tokyo r45 beginner_2
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Apache cassandraと apache sparkで作るデータ解析プラットフォーム
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Hadoop / Spark Conference Japan 2016 ご挨拶・Hadoopを取り巻く環境
Viewers also liked
モバイルするハニーポット無線LANアクセスポイント
モバイルするハニーポット無線LANアクセスポイント
Naoya Kaneko
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
Ryuji Tamagawa
PHP Version Up と AWS への移行
PHP Version Up と AWS への移行
gree_tech
PostgreSQLレプリケーション(pgcon17j_t4)
PostgreSQLレプリケーション(pgcon17j_t4)
Kosuke Kida
Docker最新動向2017秋+セキュリティの落とし穴
Docker最新動向2017秋+セキュリティの落とし穴
Masahito Zembutsu
ネットワーク自動化ツール紹介(Ansible・NAPALM編)
ネットワーク自動化ツール紹介(Ansible・NAPALM編)
akira6592
著名PHPアプリの脆弱性に学ぶセキュアコーディングの原則
著名PHPアプリの脆弱性に学ぶセキュアコーディングの原則
Hiroshi Tokumaru
片手間MySQLチューニング戦略
片手間MySQLチューニング戦略
yoku0825
Zabbixによるオートスケーリングクラスタ監視とオペレーション自動化
Zabbixによるオートスケーリングクラスタ監視とオペレーション自動化
真乙 九龍
PGroonga 2 - PostgreSQLでの全文検索の決定版
PGroonga 2 - PostgreSQLでの全文検索の決定版
Kouhei Sutou
PostgreSQLとPGroongaで作るPHPマニュアル高速全文検索システム
PostgreSQLとPGroongaで作るPHPマニュアル高速全文検索システム
Kouhei Sutou
Viewers also liked
(11)
モバイルするハニーポット無線LANアクセスポイント
モバイルするハニーポット無線LANアクセスポイント
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
20170927 pydata tokyo データサイエンスな皆様に送る分散処理の基礎の基礎、そしてPySparkの勘所
PHP Version Up と AWS への移行
PHP Version Up と AWS への移行
PostgreSQLレプリケーション(pgcon17j_t4)
PostgreSQLレプリケーション(pgcon17j_t4)
Docker最新動向2017秋+セキュリティの落とし穴
Docker最新動向2017秋+セキュリティの落とし穴
ネットワーク自動化ツール紹介(Ansible・NAPALM編)
ネットワーク自動化ツール紹介(Ansible・NAPALM編)
著名PHPアプリの脆弱性に学ぶセキュアコーディングの原則
著名PHPアプリの脆弱性に学ぶセキュアコーディングの原則
片手間MySQLチューニング戦略
片手間MySQLチューニング戦略
Zabbixによるオートスケーリングクラスタ監視とオペレーション自動化
Zabbixによるオートスケーリングクラスタ監視とオペレーション自動化
PGroonga 2 - PostgreSQLでの全文検索の決定版
PGroonga 2 - PostgreSQLでの全文検索の決定版
PostgreSQLとPGroongaで作るPHPマニュアル高速全文検索システム
PostgreSQLとPGroongaで作るPHPマニュアル高速全文検索システム
Similar to Apache sparkとapache cassandraで行うテキスト解析
Cassandra2017
Cassandra2017
Kazutaka Tomita
Repair at cassandra 4.0
Repair at cassandra 4.0
MKT-INTHEFOREST
Jjug ccc
Jjug ccc
Tanaka Yuichi
米国の事例で学ぶCassandra
米国の事例で学ぶCassandra
Kazutaka Tomita
Introduction to Hadoop and Spark (before joining the other talk) and An Overv...
Introduction to Hadoop and Spark (before joining the other talk) and An Overv...
DataWorks Summit/Hadoop Summit
Akkaの翻訳みんなでやろう Let's translate akka doc
Akkaの翻訳みんなでやろう Let's translate akka doc
賢太郎 前多
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
Tanaka Yuichi
Cassandra3.0
Cassandra3.0
Kazutaka Tomita
2014 03-15 業務アプリinsider ソフトウェア方面の先進テクノロジー
2014 03-15 業務アプリinsider ソフトウェア方面の先進テクノロジー
Hub DotnetDeveloper
Scala Daysに行ってみて
Scala Daysに行ってみて
Kota Mizushima
20131209_buildinsidermeetup
20131209_buildinsidermeetup
kumake
Asakusa Framework 勉強会 2014 夏
Asakusa Framework 勉強会 2014 夏
鉄平 土佐
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
Amazon Web Services Japan
Apache Spark超入門 (Hadoop / Spark Conference Japan 2016 講演資料)
Apache Spark超入門 (Hadoop / Spark Conference Japan 2016 講演資料)
NTT DATA OSS Professional Services
OSSプロジェクトへのコントリビューション はじめの一歩を踏み出そう!(Open Source Conference 2022 Online/Spring...
OSSプロジェクトへのコントリビューション はじめの一歩を踏み出そう!(Open Source Conference 2022 Online/Spring...
NTT DATA Technology & Innovation
2013年 re:Invent報告会
2013年 re:Invent報告会
Aya Komuro
Oracle Database Cloud Service を使ってみよう! 株式会社コーソル 守田 典男
Oracle Database Cloud Service を使ってみよう! 株式会社コーソル 守田 典男
CO-Sol for Community
GTC Japan 2016 Rescaleセッション資料「クラウドHPC ではじめるDeep Learning」- Oct/5/2016 at GTC ...
GTC Japan 2016 Rescaleセッション資料「クラウドHPC ではじめるDeep Learning」- Oct/5/2016 at GTC ...
Rescale Japan株式会社
Deep Learning on Rescale - Oct/11/2016 at Rescale night
Deep Learning on Rescale - Oct/11/2016 at Rescale night
Rescale Japan株式会社
Apache Spark の紹介(前半:Sparkのキホン)
Apache Spark の紹介(前半:Sparkのキホン)
NTT DATA OSS Professional Services
Similar to Apache sparkとapache cassandraで行うテキスト解析
(20)
Cassandra2017
Cassandra2017
Repair at cassandra 4.0
Repair at cassandra 4.0
Jjug ccc
Jjug ccc
米国の事例で学ぶCassandra
米国の事例で学ぶCassandra
Introduction to Hadoop and Spark (before joining the other talk) and An Overv...
Introduction to Hadoop and Spark (before joining the other talk) and An Overv...
Akkaの翻訳みんなでやろう Let's translate akka doc
Akkaの翻訳みんなでやろう Let's translate akka doc
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
Cassandra3.0
Cassandra3.0
2014 03-15 業務アプリinsider ソフトウェア方面の先進テクノロジー
2014 03-15 業務アプリinsider ソフトウェア方面の先進テクノロジー
Scala Daysに行ってみて
Scala Daysに行ってみて
20131209_buildinsidermeetup
20131209_buildinsidermeetup
Asakusa Framework 勉強会 2014 夏
Asakusa Framework 勉強会 2014 夏
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
20161027 hadoop summit Generating Recommendations at Amazon Scale with Apach...
Apache Spark超入門 (Hadoop / Spark Conference Japan 2016 講演資料)
Apache Spark超入門 (Hadoop / Spark Conference Japan 2016 講演資料)
OSSプロジェクトへのコントリビューション はじめの一歩を踏み出そう!(Open Source Conference 2022 Online/Spring...
OSSプロジェクトへのコントリビューション はじめの一歩を踏み出そう!(Open Source Conference 2022 Online/Spring...
2013年 re:Invent報告会
2013年 re:Invent報告会
Oracle Database Cloud Service を使ってみよう! 株式会社コーソル 守田 典男
Oracle Database Cloud Service を使ってみよう! 株式会社コーソル 守田 典男
GTC Japan 2016 Rescaleセッション資料「クラウドHPC ではじめるDeep Learning」- Oct/5/2016 at GTC ...
GTC Japan 2016 Rescaleセッション資料「クラウドHPC ではじめるDeep Learning」- Oct/5/2016 at GTC ...
Deep Learning on Rescale - Oct/11/2016 at Rescale night
Deep Learning on Rescale - Oct/11/2016 at Rescale night
Apache Spark の紹介(前半:Sparkのキホン)
Apache Spark の紹介(前半:Sparkのキホン)
More from Kazutaka Tomita
The rethinkingofrepair
The rethinkingofrepair
Kazutaka Tomita
Apache cassandra nio
Apache cassandra nio
Kazutaka Tomita
Apache Cassandra 入門編
Apache Cassandra 入門編
Kazutaka Tomita
Apache cassandra 最前線
Apache cassandra 最前線
Kazutaka Tomita
Cassandra compaction
Cassandra compaction
Kazutaka Tomita
Cassandra12to20
Cassandra12to20
Kazutaka Tomita
Cassandraのバックアップと運用を考える
Cassandraのバックアップと運用を考える
Kazutaka Tomita
What is row level isolation on cassandra
What is row level isolation on cassandra
Kazutaka Tomita
Cassandra0.7
Cassandra0.7
Kazutaka Tomita
Gossip事始め
Gossip事始め
Kazutaka Tomita
Consistency level
Consistency level
Kazutaka Tomita
More from Kazutaka Tomita
(11)
The rethinkingofrepair
The rethinkingofrepair
Apache cassandra nio
Apache cassandra nio
Apache Cassandra 入門編
Apache Cassandra 入門編
Apache cassandra 最前線
Apache cassandra 最前線
Cassandra compaction
Cassandra compaction
Cassandra12to20
Cassandra12to20
Cassandraのバックアップと運用を考える
Cassandraのバックアップと運用を考える
What is row level isolation on cassandra
What is row level isolation on cassandra
Cassandra0.7
Cassandra0.7
Gossip事始め
Gossip事始め
Consistency level
Consistency level
Apache sparkとapache cassandraで行うテキスト解析
1.
Apache SparkとApache Cassandraで行うテキスト解析 株式会社
INTHEFOERST 冨田 和孝
2.
自己紹介 冨田 和孝 肩書き: 株式会社INTHEFOREST
代表取締役社長 Cassandraコンサルティング Cassandra Conference in Tokyo / Cassandra Summit JPN Organizer Cassandra勉強会主宰 2か月に一度程度開催。第38回まで開催しています。 職種:DB・インフラ屋 以前、某レストランサーチのDBA 高負荷・大容量・大規模のOracleRACとPostgreSQLと MySQLに苦しめられ続けた経験あり。 元々は社会言語学(日本語)専攻(言語認知)
3.
自己紹介 Tim Berglund Global Director
of Training COMPLETED HAS COMPLETED Kazutaka Tomita as a part of the: DataStax Certific a t ion Pr ogram. Apache CassandraTM Professional Certifica t ion SEPTEMBER 8 2016 Tim Berglund Global Director of Training
4.
Agenda 自然言語解析とは 日本語の特徴
Apache Spark ML + Apache Cassandra
5.
自然言語解析とは 自然言語とは 人間がお互いにコミュニケー ションを行うための自然発生的 な言語を指します。 自然言語処理とは、 人間が日常的に使っている自 然言語をコンピューターに処 理させる為の一連の技術です。
6.
自然言語解析とは ネガポジ判定等(回帰分析) ラベリング(クラス分類)
傾向分析(クラスタリング)
7.
ネガポジ判定等(回帰分析) 特定の単語をポジティブ(プラス値)、ネガティブ(マ イナス値)に設定し、その単語を持つ文章のポジション を計算し、ある一定の閾値の上下に座標が配置されるこ とにより文章としてのネガティブポジティブを判定 嬉しい: +1 笑顔:+1 泣く:0 怒った:0
8.
ラベリング(クラス分類) どのようにラベル付けするかのデータを用意し、入 力された文章がどのラベルの文章に近いか判断しラ ベルの付けを行う 今日の朝は寒かった:「天気」 私は元気です。:「あいさつ」 おはよう。:「あいさつ」 明日の午後3時に会いましょう:「約束」
9.
傾向分析(クラスタリング) 文章に含まれる要語を基準に似た要語を含む文章 を集約し含まれる用語の特徴などから傾向を分析 する 昨日楽しいお話をした。 合コンをしたい。 女子会の予定は明日です。 こ汚いおっさんが隣に座って辛い。 さえない日々を送ってる。 徹夜明けでラーメンを食べに行こう。 尾行をしていたら凄い場面に出会った。 拳銃の取引の現場を抑えた。
10.
日本語の特徴 日本語のように単語間に空白文字が無い言語の場 合、単語と単語の区切りを判定し、文字を分割す る特別な前処理が必要となる。この処理を「形態 素解析」という。 私 は 朝
ご飯 を 食べ た。 形態素を座標点に文章のベクトル化を行うのが一般的
11.
日本語の特徴 助詞・助動詞によって、文章の意味が 異なってしまう。 以下の三つの文章を 比較した場合 私は朝ご飯を食べた。 私は朝ご飯を食べない。 私は朝ご飯を食べなかった。
12.
日本語の特徴 形態素で切り分けた場合、、助詞・助動詞の中でも膨 大な数の言葉が存在し、座標点が多くなりすぎる。 私 は ご飯
を 食べ た 。 私 は ご飯 を 食べ なかっ た 。 私はご飯を食べた。 私はご飯を食べなかった。
13.
日本語の特徴 私は ご飯を 食べた。 私はご飯を食べた。 私
は ご飯 を 食べ た。 私は ご飯を 食べなかった。 私はご飯を食べなかった。 私 は ご飯 を 食べ なかっ た。 一歩進めて文節を座標にしてみた。
14.
Sparkとは 2009年のUC Berkeleyでの研究プロジェクト
高速かつ汎用のクラスタコンピューティングシステム API:Scala、Java、Python、およびR 200社以上の企業の1,000人以上の開発者が開発
15.
Cassandraとは オープンソース 単一障害点(SPOF)がない
リニアなスケーラビリティ性能 すべてがアクティブな設計 透過的にエラーを検出、回復 マルチデータセンター レプリケーション CQL (Cassandra Query Language) Amazon Dynamoの分散ハッシュテーブル(DHT)とGoogle Big Tableの KVSの2つの特徴を併せ持つビッグデータ用分散データベース
16.
SparkとCassandra Spark Cluster Cassandra Cluster Driver Executor task slot task task task slot Executor task slot task task task slot Executor task slot task task task slot Node
Node Node Sparkでは,タスクの割り当ての際にデータアクセスの局所性(ローカリティ)が考慮される
17.
機械学習実行方法 Full dataset ト レ ー ニ ン グ デ ー タ テ ス ト デ ー タ features ラベル モデル 精度 予測 新規入力
18.
機械学習実行方法 私は ご飯を 食べた 私は お肉を 食べた 食べなかった 私は
ご飯を 食べなかった S1: S2: あなたは お肉を 食べなかったS3: 座標点 :P1 :P4 :P3 :P5 あなたは :P2 ご飯を :P6 座標 S1:{P1,P3,P5} S2:{P1,P3,P6} S3:{P2,P4,P6}
19.
言語解析と機械学習 ロジスティック回帰 二項分類
ロジスティック関数 ナイーブベイズ分類器 多項分類 ベイズの定理 ゼロ頻度問題
20.
ロジスティック回帰 ロジスティック関数 2値ロジスティック回帰 ある前提に対応する状態を特定など 「ポジティブ=1」と「ネガティブ=0」 xの値が大きくなると値が1に近づく(分母が1に近づくので) xの値が小さくなると値が0に近づく(分母が∞に近づくので) xが0の時に値は1/2になる。
21.
ナイーブベイズ分類器 ベイズの定理 ある事象Bが起こる条件下で、別の事象Aが起こる確率のこと。 ゼロ頻度問題 ある単語の生起する確率を、学習データに利用したコーパス全体の中で その単語が出現した相対頻度によって推定すると、学習データ中に出現 しなかった単語(組)の出現確率が0になってしまう問題のことである。
22.
テキストビジュアライゼーション 類型分類したラベル毎に強い言葉を抽出 ワードクラウド
23.
まとめ 自然言語解析 ネガポジ判定等(回帰分析)
ラベリング(クラス分類) 傾向分析(クラスタリング) Spark と Cassandra 機械学習 データビジュアライゼーション
Editor's Notes
クラスターが 複数のエグゼキューター(-num-executors) とそれらが持つ 複数個のコア(-executor-cores)と、それぞれのタスクのための複数個のCPU(spark.task.cpus) とするとクラスターの実行されるスロットの数は E * C / T になります。
Download now