SlideShare uma empresa Scribd logo
1 de 27
Baixar para ler offline
Deep Learning e o
Universo dos Bots
Data Driven Conference
Marlesson Santana
Cientista de Dados na CQuantt,
Professor na Pós de Big Data e ML, Mestre
e Doutorando em Área de Machine
Learning pela UFG
#datascience #dataanalitics #machinelearning
#deeplearning #nlp #python #spark #data-viz ...
https://www.linkedin.com/in/marlesson-santan
a-25019358/
Marlesson Santana
https://github.com/marlesson
Deep Learning
Estamos vivendo
uma revolução na
área de Inteligência
Artificial. Muitos dos
avanços são graças
às técnicas de Deep
Learning
O que é Deep Learning ?
O que é Deep Learning ?
Chatbot
Chatbots são serviços interativos
que funcionam através de
aplicativos de mensagens.
Simulam a interação humana com
o objetivo de prestação de
serviço.
Podem ser baseados em regras ou
baseados em inteligência
artificial.
Deep Learning e Chatbot
O interesse recente
em Chatbots vem
sendo impulsionado
pelos avanços
proporcionados por
Deep Learning na
área de NLP
O Processamento de Linguagem Natural (NLP) é uma subárea da inteligência
artificial que estuda a geração e compreensão de linguagem natural, com
objetivo de fornecer aos computadores a capacidade de “entender” e compor
linguagem
O que é NLP ?
Assistentes Pessoais Chatbots Análise de Sentimento Sistemas de
Recomendação
O problema pode ser resumido em fazer a máquina “entender” informação
não estruturado de tal forma que seja preservada a semântica e o contexto da
informação original.
O que é NLP ?
NLP
A base do NLP clássico é a utilização de tokens para caracterizar o documento.
Cada token é uma feature do documento a ser estruturado.
NLP Clássico
semântica
O conceito de semântica bem aplicado a NLP
simplifica o processo de estruturação da
informação de sinônimos, conjugação verbal,
erros de sintaxe…
contexto importa..
“...estamos sem ar…”
a) “...para respirar”
b) “...condicionado”
c) “...depois do futebol”
contexto importa..
“...estamos sem ar…”
a) “...para respirar”
b) “...condicionado”
c) “...depois do futebol”
“Hoje fez muito calor, infelizmente estamos sem ar...”
Pipeline NLP Clássico X DL
NLP com DL
Deep Learning apresenta duas técnicas que contribuem para os avanços em
NLP:
● Word Embeddings, são representações vetoriais de uma palavra contendo
semântica embutida
● Redes Neurais Recorrentes (RNN): Arquiteturas de DL capazes de extrair
contexto e relação de ordem
Word Embeddings
Existem várias formas de gerar word embeddings, uma das mais conhecidas é
a Word2vec, criada por pesquisadores do Google em 2013
Word Embeddings
A Word2vec é uma rede neural treinada utilizando MUITOS textos (corpus). A
rede aprende uma representação vetorial de cada palavra presente no corpus,
de tal modo que palavras similares ficam próximas
the code
Word Embeddings
http://nilc.icmc.usp.br/embeddings
RNN
As Redes Neurais Recorrentes (RNN) são uma classe de redes neurais
profundas (DL) que implementam conceito de memória ao ser executada de
forma recorrente (loop).
Processa informações em sequência tanto na entrada quanto na saída.
RNN
RNNs são flexíveis e resolvem vários problemas de NLP
Ex: Descrição de
imagem
Ex: Análise de
sentimento
Ex: Tradução,
Chatbot
RNN
Processar sequências na entrada (ler um texto) e gerar sequências na saída
(escrever um texto) é compreensão e geração de linguagem natural
ChatBot e Deep Learning
Os chatbots baseados em inteligência artificial para conversa geral podem ser
do tipo gerador ou seletivo.
A estrutura de criação é a mesma
para os geradores e seletivos:
● Dataset de conversas
● Construir um modelo
● Treinar
● Testar
the code
Resumo
Deep Learning avança na área de NLP adicionando dois conceitos necessários,
● semântica e
● contexto temporal
A flexibilidade das arquiteturas de redes recorrentes e independência de
linguagem, fazem com que DL avance no estado da arte na área de
processamento de linguagem natural (NLP)
Chatbots ganharam mais poder e flexibilidade com os avanços em Deep
Learning.
Cloud
FIM

Mais conteúdo relacionado

Semelhante a Deep Chatbots

[Jose Ahirton lopes] Do Big ao Better Data
[Jose Ahirton lopes] Do Big ao Better Data[Jose Ahirton lopes] Do Big ao Better Data
[Jose Ahirton lopes] Do Big ao Better DataAhirton Lopes
 
[Jose Ahirton Lopes] Inteligencia Artificial - Uma Abordagem Visual
[Jose Ahirton Lopes] Inteligencia Artificial -  Uma Abordagem Visual[Jose Ahirton Lopes] Inteligencia Artificial -  Uma Abordagem Visual
[Jose Ahirton Lopes] Inteligencia Artificial - Uma Abordagem VisualAhirton Lopes
 
DDD e PHP - TDC 2012
DDD e PHP - TDC 2012DDD e PHP - TDC 2012
DDD e PHP - TDC 2012Luís Cobucci
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem VisualAhirton Lopes
 
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem VisualAhirton Lopes
 
Tecnologia .NET em Mundos Virtuais - Bruno Pires
Tecnologia .NET em Mundos Virtuais - Bruno PiresTecnologia .NET em Mundos Virtuais - Bruno Pires
Tecnologia .NET em Mundos Virtuais - Bruno PiresComunidade NetPonto
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem VisualAhirton Lopes
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem VisualAhirton Lopes
 
5º ck o java e o android no iot
5º ck o java e o android no iot5º ck o java e o android no iot
5º ck o java e o android no iotHeider Lopes
 
Internet das coisas, machine learnign e maquinas de doces
Internet das coisas, machine learnign e maquinas de doces Internet das coisas, machine learnign e maquinas de doces
Internet das coisas, machine learnign e maquinas de doces Alvaro Viebrantz
 
Juventude conectada pspb
Juventude conectada pspbJuventude conectada pspb
Juventude conectada pspbOsvaldo Filho
 
Congresso iv
Congresso ivCongresso iv
Congresso ivIP10
 
Aula 1 - Introdução ao Conteúdo de Banco de Dados
Aula 1 - Introdução ao Conteúdo de Banco de DadosAula 1 - Introdução ao Conteúdo de Banco de Dados
Aula 1 - Introdução ao Conteúdo de Banco de DadosHenrique Nunweiler
 
3 oo-concepts
3 oo-concepts3 oo-concepts
3 oo-conceptsjorge600
 
Democratizando o Deep Learning. E depois ? | Pierre GUILLOU
Democratizando o Deep Learning. E depois ? | Pierre GUILLOUDemocratizando o Deep Learning. E depois ? | Pierre GUILLOU
Democratizando o Deep Learning. E depois ? | Pierre GUILLOUPierre GUILLOU
 
Congresso iii unifacsv3
Congresso iii unifacsv3Congresso iii unifacsv3
Congresso iii unifacsv3IP10
 
Web Semantica e Ontologias por GT4 FC em EC 2014
Web Semantica e Ontologias por GT4 FC em EC 2014Web Semantica e Ontologias por GT4 FC em EC 2014
Web Semantica e Ontologias por GT4 FC em EC 2014Rogerio P C do Nascimento
 
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)Filipe Chagas Ferraz
 

Semelhante a Deep Chatbots (20)

[Jose Ahirton lopes] Do Big ao Better Data
[Jose Ahirton lopes] Do Big ao Better Data[Jose Ahirton lopes] Do Big ao Better Data
[Jose Ahirton lopes] Do Big ao Better Data
 
[Jose Ahirton Lopes] Inteligencia Artificial - Uma Abordagem Visual
[Jose Ahirton Lopes] Inteligencia Artificial -  Uma Abordagem Visual[Jose Ahirton Lopes] Inteligencia Artificial -  Uma Abordagem Visual
[Jose Ahirton Lopes] Inteligencia Artificial - Uma Abordagem Visual
 
DDD e PHP - TDC 2012
DDD e PHP - TDC 2012DDD e PHP - TDC 2012
DDD e PHP - TDC 2012
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
 
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual
[Ahirton Lopes e Rafael Arevalo] Deep Learning - Uma Abordagem Visual
 
Tecnologia .NET em Mundos Virtuais - Bruno Pires
Tecnologia .NET em Mundos Virtuais - Bruno PiresTecnologia .NET em Mundos Virtuais - Bruno Pires
Tecnologia .NET em Mundos Virtuais - Bruno Pires
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
 
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
[Jose Ahirton Lopes] Deep Learning - Uma Abordagem Visual
 
5º ck o java e o android no iot
5º ck o java e o android no iot5º ck o java e o android no iot
5º ck o java e o android no iot
 
Internet das coisas, machine learnign e maquinas de doces
Internet das coisas, machine learnign e maquinas de doces Internet das coisas, machine learnign e maquinas de doces
Internet das coisas, machine learnign e maquinas de doces
 
3 oo-concepts
3 oo-concepts3 oo-concepts
3 oo-concepts
 
Juventude conectada pspb
Juventude conectada pspbJuventude conectada pspb
Juventude conectada pspb
 
Domain-Driven Design
Domain-Driven DesignDomain-Driven Design
Domain-Driven Design
 
Congresso iv
Congresso ivCongresso iv
Congresso iv
 
Aula 1 - Introdução ao Conteúdo de Banco de Dados
Aula 1 - Introdução ao Conteúdo de Banco de DadosAula 1 - Introdução ao Conteúdo de Banco de Dados
Aula 1 - Introdução ao Conteúdo de Banco de Dados
 
3 oo-concepts
3 oo-concepts3 oo-concepts
3 oo-concepts
 
Democratizando o Deep Learning. E depois ? | Pierre GUILLOU
Democratizando o Deep Learning. E depois ? | Pierre GUILLOUDemocratizando o Deep Learning. E depois ? | Pierre GUILLOU
Democratizando o Deep Learning. E depois ? | Pierre GUILLOU
 
Congresso iii unifacsv3
Congresso iii unifacsv3Congresso iii unifacsv3
Congresso iii unifacsv3
 
Web Semantica e Ontologias por GT4 FC em EC 2014
Web Semantica e Ontologias por GT4 FC em EC 2014Web Semantica e Ontologias por GT4 FC em EC 2014
Web Semantica e Ontologias por GT4 FC em EC 2014
 
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)
Aula - Introdução (Curso de Python Básico -- FATEC SENAI MT)
 

Mais de Marlesson Santana

UFG - Topic Modeling in Text
UFG - Topic Modeling in TextUFG - Topic Modeling in Text
UFG - Topic Modeling in TextMarlesson Santana
 
Ciência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesCiência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesMarlesson Santana
 
Data science com python - frameworks e melhores práticas
Data science com python - frameworks e melhores práticasData science com python - frameworks e melhores práticas
Data science com python - frameworks e melhores práticasMarlesson Santana
 
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?Marlesson Santana
 
Campus Party - Sistemas de Recomendação
Campus Party - Sistemas de RecomendaçãoCampus Party - Sistemas de Recomendação
Campus Party - Sistemas de RecomendaçãoMarlesson Santana
 
Machine Learning: Do Notebook ao modelo em produção
Machine Learning: Do Notebook ao modelo em produçãoMachine Learning: Do Notebook ao modelo em produção
Machine Learning: Do Notebook ao modelo em produçãoMarlesson Santana
 
Ciência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesCiência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesMarlesson Santana
 
Deep Learning para Sistemas de Recomendação
Deep Learning para Sistemas de RecomendaçãoDeep Learning para Sistemas de Recomendação
Deep Learning para Sistemas de RecomendaçãoMarlesson Santana
 
Training deep auto encoders for collaborative filtering
Training deep auto encoders for collaborative filteringTraining deep auto encoders for collaborative filtering
Training deep auto encoders for collaborative filteringMarlesson Santana
 
Introdução a Redes Neurais Recorrentes
Introdução a Redes Neurais RecorrentesIntrodução a Redes Neurais Recorrentes
Introdução a Redes Neurais RecorrentesMarlesson Santana
 
Mineração de Dados em Redes Sociais
Mineração de Dados em Redes SociaisMineração de Dados em Redes Sociais
Mineração de Dados em Redes SociaisMarlesson Santana
 

Mais de Marlesson Santana (11)

UFG - Topic Modeling in Text
UFG - Topic Modeling in TextUFG - Topic Modeling in Text
UFG - Topic Modeling in Text
 
Ciência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesCiência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisões
 
Data science com python - frameworks e melhores práticas
Data science com python - frameworks e melhores práticasData science com python - frameworks e melhores práticas
Data science com python - frameworks e melhores práticas
 
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?
Sistemas de Recomendação - O que são? Como funcionam? Do que se alimentam?
 
Campus Party - Sistemas de Recomendação
Campus Party - Sistemas de RecomendaçãoCampus Party - Sistemas de Recomendação
Campus Party - Sistemas de Recomendação
 
Machine Learning: Do Notebook ao modelo em produção
Machine Learning: Do Notebook ao modelo em produçãoMachine Learning: Do Notebook ao modelo em produção
Machine Learning: Do Notebook ao modelo em produção
 
Ciência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisõesCiência de Dados: a revolução na tomada de decisões
Ciência de Dados: a revolução na tomada de decisões
 
Deep Learning para Sistemas de Recomendação
Deep Learning para Sistemas de RecomendaçãoDeep Learning para Sistemas de Recomendação
Deep Learning para Sistemas de Recomendação
 
Training deep auto encoders for collaborative filtering
Training deep auto encoders for collaborative filteringTraining deep auto encoders for collaborative filtering
Training deep auto encoders for collaborative filtering
 
Introdução a Redes Neurais Recorrentes
Introdução a Redes Neurais RecorrentesIntrodução a Redes Neurais Recorrentes
Introdução a Redes Neurais Recorrentes
 
Mineração de Dados em Redes Sociais
Mineração de Dados em Redes SociaisMineração de Dados em Redes Sociais
Mineração de Dados em Redes Sociais
 

Deep Chatbots

  • 1. Deep Learning e o Universo dos Bots Data Driven Conference Marlesson Santana
  • 2. Cientista de Dados na CQuantt, Professor na Pós de Big Data e ML, Mestre e Doutorando em Área de Machine Learning pela UFG #datascience #dataanalitics #machinelearning #deeplearning #nlp #python #spark #data-viz ... https://www.linkedin.com/in/marlesson-santan a-25019358/ Marlesson Santana https://github.com/marlesson
  • 3. Deep Learning Estamos vivendo uma revolução na área de Inteligência Artificial. Muitos dos avanços são graças às técnicas de Deep Learning
  • 4. O que é Deep Learning ?
  • 5. O que é Deep Learning ?
  • 6. Chatbot Chatbots são serviços interativos que funcionam através de aplicativos de mensagens. Simulam a interação humana com o objetivo de prestação de serviço. Podem ser baseados em regras ou baseados em inteligência artificial.
  • 7. Deep Learning e Chatbot O interesse recente em Chatbots vem sendo impulsionado pelos avanços proporcionados por Deep Learning na área de NLP
  • 8. O Processamento de Linguagem Natural (NLP) é uma subárea da inteligência artificial que estuda a geração e compreensão de linguagem natural, com objetivo de fornecer aos computadores a capacidade de “entender” e compor linguagem O que é NLP ? Assistentes Pessoais Chatbots Análise de Sentimento Sistemas de Recomendação
  • 9. O problema pode ser resumido em fazer a máquina “entender” informação não estruturado de tal forma que seja preservada a semântica e o contexto da informação original. O que é NLP ? NLP
  • 10. A base do NLP clássico é a utilização de tokens para caracterizar o documento. Cada token é uma feature do documento a ser estruturado. NLP Clássico
  • 11. semântica O conceito de semântica bem aplicado a NLP simplifica o processo de estruturação da informação de sinônimos, conjugação verbal, erros de sintaxe…
  • 12. contexto importa.. “...estamos sem ar…” a) “...para respirar” b) “...condicionado” c) “...depois do futebol”
  • 13. contexto importa.. “...estamos sem ar…” a) “...para respirar” b) “...condicionado” c) “...depois do futebol” “Hoje fez muito calor, infelizmente estamos sem ar...”
  • 15. NLP com DL Deep Learning apresenta duas técnicas que contribuem para os avanços em NLP: ● Word Embeddings, são representações vetoriais de uma palavra contendo semântica embutida ● Redes Neurais Recorrentes (RNN): Arquiteturas de DL capazes de extrair contexto e relação de ordem
  • 16. Word Embeddings Existem várias formas de gerar word embeddings, uma das mais conhecidas é a Word2vec, criada por pesquisadores do Google em 2013
  • 17. Word Embeddings A Word2vec é uma rede neural treinada utilizando MUITOS textos (corpus). A rede aprende uma representação vetorial de cada palavra presente no corpus, de tal modo que palavras similares ficam próximas
  • 20. RNN As Redes Neurais Recorrentes (RNN) são uma classe de redes neurais profundas (DL) que implementam conceito de memória ao ser executada de forma recorrente (loop). Processa informações em sequência tanto na entrada quanto na saída.
  • 21. RNN RNNs são flexíveis e resolvem vários problemas de NLP Ex: Descrição de imagem Ex: Análise de sentimento Ex: Tradução, Chatbot
  • 22. RNN Processar sequências na entrada (ler um texto) e gerar sequências na saída (escrever um texto) é compreensão e geração de linguagem natural
  • 23. ChatBot e Deep Learning Os chatbots baseados em inteligência artificial para conversa geral podem ser do tipo gerador ou seletivo. A estrutura de criação é a mesma para os geradores e seletivos: ● Dataset de conversas ● Construir um modelo ● Treinar ● Testar
  • 25. Resumo Deep Learning avança na área de NLP adicionando dois conceitos necessários, ● semântica e ● contexto temporal A flexibilidade das arquiteturas de redes recorrentes e independência de linguagem, fazem com que DL avance no estado da arte na área de processamento de linguagem natural (NLP) Chatbots ganharam mais poder e flexibilidade com os avanços em Deep Learning.
  • 26. Cloud
  • 27. FIM