SlideShare uma empresa Scribd logo
1 de 21
智能化大数据推动金融
人工智能和机器学习在金融信息处理中的应用
——夏磊 CTO@数库科技
1. 人工智能和机器学习
2. 数库在做什么?
3. 我们怎么做?
目录
1. 人工智能和机器学习
人工智能和机器学习
语音识别 无人驾驶 人脸识别 人类基因组 智能家居
人工智能是科学
机器学习是让机器变得 更加智能 的算法
人工智能和机器学习
2. 数库在做什么?
数库致力于运用技术减少由于金融信息不对称而带来的
投资壁垒,依靠科技手段简化金融投资,让更多的人享有大
数据带来的高效与便捷。
关于数库
基本面分析、行业与产业链
finance.chinascope.com
新型量化投资
factors.chinascope.com
数据即服务 API & SDK
developer.chinascope.com
基于SAM分类标准可以实现产业链图谱、指数、
宏观经济数据的关联以及垮市场联动分析服务
使用机器学习、自然语言处理和图谱挖掘
技术对海量非结构化数据进行解读分析
产品与核心引擎
17000上市公司自2007年所有业务线披露 4900条标准化SAM业务线节点
SAM是数库在半结构化数据搭建中的里程碑技术,目前全球有类似技
术的除了数库之外只有彭博和Factset。
解决行业分类失真问题 高效、精准完成可比公司分析 完成上市公司产业链搭建
从业务线来量化判断行业分类,根据公司披露,实时更新
改革传统行业分类
Segment Analytics & Mapping
业务线分布 SAM产品树
Segment Analytics & Mapping
做为SAM的补充,KAM 对互联网上的实时资讯进行收集,通过自
然语言处理、机器学习、知识图谱等技术解读信息,让投资者能够
实时捕捉到市场热点、事件和投资机会。
3. 我们怎么做?
• 自然语言处理
• 深度学习
• 图像处理
人工智能
• 分类算法
情绪分类 SVM、LSTM
择时策略 HMM
• 推荐算法
标签关联、知识推荐
• 聚类算法
主题提取
机器学习算法
• 提升数库自己的运营杠杆
• 提升客户的知识决策效率
目标
数库的人工智能应用
• 非结构化数据标准化
从大量PDF中抽取出结构化的数据:将pdf解析为字符、线条、图像等中间数据,方便算法使用
• 算法
通过各类机器学习算法,实现文本抽取、表格构建、图像识别等挖掘出有用的数据
• 结构化存储
将算法输出的有用数据进行SQL或者NOSQL存储,以供进一步加工和使用(比如NLP、DL等等)
非结构化数据处理
• 预训练的词向量
大规模无监督训练获取词的相关特征。
• 自训练的词向量
依据具体任务场景获取词的相关特征。
• 词性标注向量
现有分词器的词性标注提供先验知识。
• 字向量,未登录词如何处理?
方式1:随机初始化。
方式2:找出同义词替代。
我们的方法:提取词当中的字向量并结合词向量 训练神
经网络,能够解决部分未登录词的问题。
上海 数库 科技 有限公司 <pad>
目标
向量合并
隐藏层
Dropout层
输出分类层
输入
预训练的词向量
自训练的词向量
词性标注向量
经神经网络提取
的字向量
<pad> <pad> 科 技 <pad> <pad>
卷积层
池化层
自训练的字向量
经神经网络提取的字向量
深度学习在命名实体识别上的应用
• 从海量无标注数据中提取特定情感知识
• 词的情感极性知识
 一个词出现在正向情感文本的概率越大,则更有可能蕴含正向情感
信息
 情感词极性的上下文依赖、领域依赖、用户个性化依赖、用户社交
关系依赖
• 词与词的情感相似度知识
 基于word2vec,反映两个词的依存程度
 两个词共现的概率越大,则越可能相近的情感极性
• 情感分类模型训练
• 10w语料标注集(标题、摘要),每个月新增
• 行业情感语料库、事件情感语料库、金融情绪词库
• SVM分类算法
新闻情绪分析
主题聚类
• 以聚类思想实现分类目的
• 从无标注数据中提取主题特征
新主题发现
• 以热点词为核心
• 二重聚类算法实现去噪和聚合热点
主题聚类与新主题发现
进行中
语义关系抽取
交互式财经问答
— THANKS —
微信公众号 官网
数 库 , 赋 予 数 据 智能

Mais conteúdo relacionado

Mais procurados

數位內容產業發展趨勢
數位內容產業發展趨勢數位內容產業發展趨勢
數位內容產業發展趨勢
RICK Lin
 
四月新聞整理
四月新聞整理四月新聞整理
四月新聞整理
ryoma1129
 
[2011-9]This Week's Share-1107
[2011-9]This Week's Share-1107[2011-9]This Week's Share-1107
[2011-9]This Week's Share-1107
Bo Shen
 
智慧城市及智慧聯網發展趨勢
智慧城市及智慧聯網發展趨勢智慧城市及智慧聯網發展趨勢
智慧城市及智慧聯網發展趨勢
RICK Lin
 
智慧家庭市場發展現況與台灣商機
智慧家庭市場發展現況與台灣商機智慧家庭市場發展現況與台灣商機
智慧家庭市場發展現況與台灣商機
Madeleine Lee
 
資訊服務業技術趨勢
資訊服務業技術趨勢資訊服務業技術趨勢
資訊服務業技術趨勢
RICK Lin
 

Mais procurados (20)

歡迎回來:全面圖譜,金融 3.0 顧客行銷新視界
歡迎回來:全面圖譜,金融 3.0 顧客行銷新視界歡迎回來:全面圖譜,金融 3.0 顧客行銷新視界
歡迎回來:全面圖譜,金融 3.0 顧客行銷新視界
 
20160721 經濟部:「智慧機械產業行動計畫方案」報告
20160721 經濟部:「智慧機械產業行動計畫方案」報告20160721 經濟部:「智慧機械產業行動計畫方案」報告
20160721 經濟部:「智慧機械產業行動計畫方案」報告
 
曾鳴《智能商業20講》-第14講“活數據:流動創造價值”
曾鳴《智能商業20講》-第14講“活數據:流動創造價值”曾鳴《智能商業20講》-第14講“活數據:流動創造價值”
曾鳴《智能商業20講》-第14講“活數據:流動創造價值”
 
數位內容產業發展趨勢
數位內容產業發展趨勢數位內容產業發展趨勢
數位內容產業發展趨勢
 
四月新聞整理
四月新聞整理四月新聞整理
四月新聞整理
 
[2011-9]This Week's Share-1107
[2011-9]This Week's Share-1107[2011-9]This Week's Share-1107
[2011-9]This Week's Share-1107
 
[TOxAIA新竹分校] 2019 台灣數位轉型與產業升級趨勢觀察
[TOxAIA新竹分校] 2019 台灣數位轉型與產業升級趨勢觀察[TOxAIA新竹分校] 2019 台灣數位轉型與產業升級趨勢觀察
[TOxAIA新竹分校] 2019 台灣數位轉型與產業升級趨勢觀察
 
智慧城市及智慧聯網發展趨勢
智慧城市及智慧聯網發展趨勢智慧城市及智慧聯網發展趨勢
智慧城市及智慧聯網發展趨勢
 
IoT 物聯網案例介紹
IoT 物聯網案例介紹IoT 物聯網案例介紹
IoT 物聯網案例介紹
 
資訊服務產業趨勢
資訊服務產業趨勢資訊服務產業趨勢
資訊服務產業趨勢
 
Opening: Big Data+
Opening: Big Data+Opening: Big Data+
Opening: Big Data+
 
IoT introduction 2015
IoT introduction 2015IoT introduction 2015
IoT introduction 2015
 
AI Is Driving Financial Innovation
AI Is Driving Financial InnovationAI Is Driving Financial Innovation
AI Is Driving Financial Innovation
 
中華電信智慧家庭系統功能說明
中華電信智慧家庭系統功能說明中華電信智慧家庭系統功能說明
中華電信智慧家庭系統功能說明
 
3651 報二
3651 報二3651 報二
3651 報二
 
智慧家庭市場發展現況與台灣商機
智慧家庭市場發展現況與台灣商機智慧家庭市場發展現況與台灣商機
智慧家庭市場發展現況與台灣商機
 
資訊服務業技術趨勢
資訊服務業技術趨勢資訊服務業技術趨勢
資訊服務業技術趨勢
 
全球人工智能产业地图
全球人工智能产业地图全球人工智能产业地图
全球人工智能产业地图
 
104數位經濟人財報告書
104數位經濟人財報告書104數位經濟人財報告書
104數位經濟人財報告書
 
20191205【簡報】行政院科技會報辦公室:「我國5G頻譜政策與專網發展」報告
20191205【簡報】行政院科技會報辦公室:「我國5G頻譜政策與專網發展」報告20191205【簡報】行政院科技會報辦公室:「我國5G頻譜政策與專網發展」報告
20191205【簡報】行政院科技會報辦公室:「我國5G頻譜政策與專網發展」報告
 

Destaque

Social innovation assisted by HAE
Social innovation assisted by HAESocial innovation assisted by HAE
Social innovation assisted by HAE
Ellen Hvidt
 
Let horses help us to see
Let horses help us to seeLet horses help us to see
Let horses help us to see
Ellen Hvidt
 

Destaque (18)

Bruce Fink on Psychosis
Bruce Fink on PsychosisBruce Fink on Psychosis
Bruce Fink on Psychosis
 
Презентация Siberian SPA
Презентация Siberian SPAПрезентация Siberian SPA
Презентация Siberian SPA
 
Social innovation assisted by HAE
Social innovation assisted by HAESocial innovation assisted by HAE
Social innovation assisted by HAE
 
Chinocho
ChinochoChinocho
Chinocho
 
UVC100_Fall16_Class3
UVC100_Fall16_Class3UVC100_Fall16_Class3
UVC100_Fall16_Class3
 
Let horses help us to see
Let horses help us to seeLet horses help us to see
Let horses help us to see
 
2016 Ideas Hakathon_智慧乘車服務平台
2016 Ideas Hakathon_智慧乘車服務平台2016 Ideas Hakathon_智慧乘車服務平台
2016 Ideas Hakathon_智慧乘車服務平台
 
Dr Hydrogen
Dr HydrogenDr Hydrogen
Dr Hydrogen
 
【食品生技製藥】分析檢驗設備產品介紹型錄-2015全拓科技
【食品生技製藥】分析檢驗設備產品介紹型錄-2015全拓科技【食品生技製藥】分析檢驗設備產品介紹型錄-2015全拓科技
【食品生技製藥】分析檢驗設備產品介紹型錄-2015全拓科技
 
Scheme 核心概念(一)
Scheme 核心概念(一)Scheme 核心概念(一)
Scheme 核心概念(一)
 
大資料分析技術的濫觴
大資料分析技術的濫觴大資料分析技術的濫觴
大資料分析技術的濫觴
 
就職 創業 即戰力_20161214
就職 創業 即戰力_20161214就職 創業 即戰力_20161214
就職 創業 即戰力_20161214
 
Graphlab Create 簡介
Graphlab Create 簡介Graphlab Create 簡介
Graphlab Create 簡介
 
Bigdata 大資料分析實務 (進階上機課程)
Bigdata 大資料分析實務 (進階上機課程)Bigdata 大資料分析實務 (進階上機課程)
Bigdata 大資料分析實務 (進階上機課程)
 
直覺力
直覺力直覺力
直覺力
 
以Pocket perceptron訓練的上下樓梯辨識穿戴式裝置
以Pocket perceptron訓練的上下樓梯辨識穿戴式裝置以Pocket perceptron訓練的上下樓梯辨識穿戴式裝置
以Pocket perceptron訓練的上下樓梯辨識穿戴式裝置
 
EdTech創新培育理論模式與經驗分享-20161023
EdTech創新培育理論模式與經驗分享-20161023EdTech創新培育理論模式與經驗分享-20161023
EdTech創新培育理論模式與經驗分享-20161023
 
當資料科學家不須花大量時間蒐集/清洗數據-2015 R Taiwan研討會分享
當資料科學家不須花大量時間蒐集/清洗數據-2015 R Taiwan研討會分享當資料科學家不須花大量時間蒐集/清洗數據-2015 R Taiwan研討會分享
當資料科學家不須花大量時間蒐集/清洗數據-2015 R Taiwan研討會分享
 

Semelhante a 机器学习推动金融数据智能

認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
張大明 Ta-Ming Chang
 
前瞻的產業政策 鄭秀玲 1127 2014
前瞻的產業政策 鄭秀玲 1127 2014前瞻的產業政策 鄭秀玲 1127 2014
前瞻的產業政策 鄭秀玲 1127 2014
ntuperc
 
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
Mix Taiwan
 
BOT-Taipei Cloud Park
BOT-Taipei Cloud ParkBOT-Taipei Cloud Park
BOT-Taipei Cloud Park
Wayne Liang
 
迎戰未來製造用AIoT打造企業第二條成長曲線
迎戰未來製造用AIoT打造企業第二條成長曲線迎戰未來製造用AIoT打造企業第二條成長曲線
迎戰未來製造用AIoT打造企業第二條成長曲線
Amazon Web Services
 

Semelhante a 机器学习推动金融数据智能 (20)

106智慧srb會議 公眾討論簡報-2智慧系統與晶片技術-0622
106智慧srb會議 公眾討論簡報-2智慧系統與晶片技術-0622106智慧srb會議 公眾討論簡報-2智慧系統與晶片技術-0622
106智慧srb會議 公眾討論簡報-2智慧系統與晶片技術-0622
 
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
 
智慧科技與APP之應用
智慧科技與APP之應用智慧科技與APP之應用
智慧科技與APP之應用
 
前瞻的產業政策 鄭秀玲 1127 2014
前瞻的產業政策 鄭秀玲 1127 2014前瞻的產業政策 鄭秀玲 1127 2014
前瞻的產業政策 鄭秀玲 1127 2014
 
無限想像的科技創新未來—大數據專案管理與資料分析實務應用 20170927(龍華科技大學)
無限想像的科技創新未來—大數據專案管理與資料分析實務應用 20170927(龍華科技大學)無限想像的科技創新未來—大數據專案管理與資料分析實務應用 20170927(龍華科技大學)
無限想像的科技創新未來—大數據專案管理與資料分析實務應用 20170927(龍華科技大學)
 
研華 智聯工廠與智能設備雙引擎|實踐智慧製造
研華 智聯工廠與智能設備雙引擎|實踐智慧製造  研華 智聯工廠與智能設備雙引擎|實踐智慧製造
研華 智聯工廠與智能設備雙引擎|實踐智慧製造
 
AOI智慧升級─AI訓練師在地養成計畫_台灣人工智慧學校
AOI智慧升級─AI訓練師在地養成計畫_台灣人工智慧學校AOI智慧升級─AI訓練師在地養成計畫_台灣人工智慧學校
AOI智慧升級─AI訓練師在地養成計畫_台灣人工智慧學校
 
肖永红:科研数据应用和共享方面的实践
肖永红:科研数据应用和共享方面的实践肖永红:科研数据应用和共享方面的实践
肖永红:科研数据应用和共享方面的实践
 
Med opening-tp3
Med opening-tp3Med opening-tp3
Med opening-tp3
 
Y20151003 詹文男-物聯網的商機與挑戰
Y20151003 詹文男-物聯網的商機與挑戰Y20151003 詹文男-物聯網的商機與挑戰
Y20151003 詹文男-物聯網的商機與挑戰
 
Intro to AI
Intro to AIIntro to AI
Intro to AI
 
台灣資訊軟體產業經驗分享0326簡報
台灣資訊軟體產業經驗分享0326簡報台灣資訊軟體產業經驗分享0326簡報
台灣資訊軟體產業經驗分享0326簡報
 
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
mix taiwan臺中智慧城市論壇 吳騰彥總經理 -智慧城市之眼 用科技打造未來生活圈
 
議題一02:引言簡報 蘇漢邦所長
議題一02:引言簡報 蘇漢邦所長議題一02:引言簡報 蘇漢邦所長
議題一02:引言簡報 蘇漢邦所長
 
議題一02:引言簡報 蘇漢邦所長
議題一02:引言簡報 蘇漢邦所長議題一02:引言簡報 蘇漢邦所長
議題一02:引言簡報 蘇漢邦所長
 
User Research in Data Driven Artificial Intelligence era
User Research in Data Driven Artificial Intelligence eraUser Research in Data Driven Artificial Intelligence era
User Research in Data Driven Artificial Intelligence era
 
My house雲端社區服務平台營運計畫書(20131101)
My house雲端社區服務平台營運計畫書(20131101)My house雲端社區服務平台營運計畫書(20131101)
My house雲端社區服務平台營運計畫書(20131101)
 
BOT-Taipei Cloud Park
BOT-Taipei Cloud ParkBOT-Taipei Cloud Park
BOT-Taipei Cloud Park
 
迎戰未來製造用AIoT打造企業第二條成長曲線
迎戰未來製造用AIoT打造企業第二條成長曲線迎戰未來製造用AIoT打造企業第二條成長曲線
迎戰未來製造用AIoT打造企業第二條成長曲線
 
[台中分校] 第一期結業典禮 - 執行長談話
[台中分校] 第一期結業典禮 - 執行長談話[台中分校] 第一期結業典禮 - 執行長談話
[台中分校] 第一期結業典禮 - 執行長談話
 

Mais de Roger Xia

Code reviews
Code reviewsCode reviews
Code reviews
Roger Xia
 
Python introduction
Python introductionPython introduction
Python introduction
Roger Xia
 
Learning notes ruby
Learning notes rubyLearning notes ruby
Learning notes ruby
Roger Xia
 
Converged open platform for enterprise
Converged open platform for enterpriseConverged open platform for enterprise
Converged open platform for enterprise
Roger Xia
 
Code reviews
Code reviewsCode reviews
Code reviews
Roger Xia
 
E commerce search strategies
E commerce search strategiesE commerce search strategies
E commerce search strategies
Roger Xia
 
Indefero source code_managment
Indefero source code_managmentIndefero source code_managment
Indefero source code_managment
Roger Xia
 
Web service through cxf
Web service through cxfWeb service through cxf
Web service through cxf
Roger Xia
 
Consistency-New-Generation-Databases
Consistency-New-Generation-DatabasesConsistency-New-Generation-Databases
Consistency-New-Generation-Databases
Roger Xia
 

Mais de Roger Xia (20)

Code reviews
Code reviewsCode reviews
Code reviews
 
Python introduction
Python introductionPython introduction
Python introduction
 
Learning notes ruby
Learning notes rubyLearning notes ruby
Learning notes ruby
 
Converged open platform for enterprise
Converged open platform for enterpriseConverged open platform for enterprise
Converged open platform for enterprise
 
Code reviews
Code reviewsCode reviews
Code reviews
 
E commerce search strategies
E commerce search strategiesE commerce search strategies
E commerce search strategies
 
Saml
SamlSaml
Saml
 
JavaEE6
JavaEE6JavaEE6
JavaEE6
 
Indefero source code_managment
Indefero source code_managmentIndefero source code_managment
Indefero source code_managment
 
Web Services Atomic Transactio
 Web Services Atomic Transactio Web Services Atomic Transactio
Web Services Atomic Transactio
 
Web service through cxf
Web service through cxfWeb service through cxf
Web service through cxf
 
Q con london2011-matthewwall-whyichosemongodbforguardiancouk
Q con london2011-matthewwall-whyichosemongodbforguardiancoukQ con london2011-matthewwall-whyichosemongodbforguardiancouk
Q con london2011-matthewwall-whyichosemongodbforguardiancouk
 
Spring one2gx2010 spring-nonrelational_data
Spring one2gx2010 spring-nonrelational_dataSpring one2gx2010 spring-nonrelational_data
Spring one2gx2010 spring-nonrelational_data
 
Consistency-New-Generation-Databases
Consistency-New-Generation-DatabasesConsistency-New-Generation-Databases
Consistency-New-Generation-Databases
 
Java explore
Java exploreJava explore
Java explore
 
Mongo db实战
Mongo db实战Mongo db实战
Mongo db实战
 
Ca siteminder
Ca siteminderCa siteminder
Ca siteminder
 
Fixing twitter
Fixing twitterFixing twitter
Fixing twitter
 
Eclipse plug in mylyn & tasktop
Eclipse plug in mylyn & tasktopEclipse plug in mylyn & tasktop
Eclipse plug in mylyn & tasktop
 
新浪微博架构猜想
新浪微博架构猜想新浪微博架构猜想
新浪微博架构猜想
 

机器学习推动金融数据智能