O documento discute como o deep learning avançou o processamento de linguagem natural (NLP) e os chatbots através da adição de semântica e contexto temporal. O deep learning fornece word embeddings que codificam semântica e redes neurais recorrentes que podem extrair contexto ao longo do tempo. Isso tornou os chatbots mais poderosos e flexíveis.

1. Deep Learning e o
Universo dos Bots
Data Driven Conference
Marlesson Santana

2. Cientista de Dados na CQuantt,
Professor na Pós de Big Data e ML, Mestre
e Doutorando em Área de Machine
Learning pela UFG
#datascience #dataanalitics #machinelearning
#deeplearning #nlp #python #spark #data-viz ...
https://www.linkedin.com/in/marlesson-santan
a-25019358/
Marlesson Santana
https://github.com/marlesson

3. Deep Learning
Estamos vivendo
uma revolução na
área de Inteligência
Artificial. Muitos dos
avanços são graças
às técnicas de Deep
Learning

4. O que é Deep Learning ?

5. O que é Deep Learning ?

6. Chatbot
Chatbots são serviços interativos
que funcionam através de
aplicativos de mensagens.
Simulam a interação humana com
o objetivo de prestação de
serviço.
Podem ser baseados em regras ou
baseados em inteligência
artificial.

7. Deep Learning e Chatbot
O interesse recente
em Chatbots vem
sendo impulsionado
pelos avanços
proporcionados por
Deep Learning na
área de NLP

8. O Processamento de Linguagem Natural (NLP) é uma subárea da inteligência
artificial que estuda a geração e compreensão de linguagem natural, com
objetivo de fornecer aos computadores a capacidade de “entender” e compor
linguagem
O que é NLP ?
Assistentes Pessoais Chatbots Análise de Sentimento Sistemas de
Recomendação

9. O problema pode ser resumido em fazer a máquina “entender” informação
não estruturado de tal forma que seja preservada a semântica e o contexto da
informação original.
O que é NLP ?
NLP

10. A base do NLP clássico é a utilização de tokens para caracterizar o documento.
Cada token é uma feature do documento a ser estruturado.
NLP Clássico

11. semântica
O conceito de semântica bem aplicado a NLP
simplifica o processo de estruturação da
informação de sinônimos, conjugação verbal,
erros de sintaxe…

12. contexto importa..
“...estamos sem ar…”
a) “...para respirar”
b) “...condicionado”
c) “...depois do futebol”

13. contexto importa..
“...estamos sem ar…”
a) “...para respirar”
b) “...condicionado”
c) “...depois do futebol”
“Hoje fez muito calor, infelizmente estamos sem ar...”

14. Pipeline NLP Clássico X DL

15. NLP com DL
Deep Learning apresenta duas técnicas que contribuem para os avanços em
NLP:
● Word Embeddings, são representações vetoriais de uma palavra contendo
semântica embutida
● Redes Neurais Recorrentes (RNN): Arquiteturas de DL capazes de extrair
contexto e relação de ordem

16. Word Embeddings
Existem várias formas de gerar word embeddings, uma das mais conhecidas é
a Word2vec, criada por pesquisadores do Google em 2013

17. Word Embeddings
A Word2vec é uma rede neural treinada utilizando MUITOS textos (corpus). A
rede aprende uma representação vetorial de cada palavra presente no corpus,
de tal modo que palavras similares ficam próximas

18. the code

19. Word Embeddings
http://nilc.icmc.usp.br/embeddings

20. RNN
As Redes Neurais Recorrentes (RNN) são uma classe de redes neurais
profundas (DL) que implementam conceito de memória ao ser executada de
forma recorrente (loop).
Processa informações em sequência tanto na entrada quanto na saída.

21. RNN
RNNs são flexíveis e resolvem vários problemas de NLP
Ex: Descrição de
imagem
Ex: Análise de
sentimento
Ex: Tradução,
Chatbot

22. RNN
Processar sequências na entrada (ler um texto) e gerar sequências na saída
(escrever um texto) é compreensão e geração de linguagem natural

23. ChatBot e Deep Learning
Os chatbots baseados em inteligência artificial para conversa geral podem ser
do tipo gerador ou seletivo.
A estrutura de criação é a mesma
para os geradores e seletivos:
● Dataset de conversas
● Construir um modelo
● Treinar
● Testar

24. the code

25. Resumo
Deep Learning avança na área de NLP adicionando dois conceitos necessários,
● semântica e
● contexto temporal
A flexibilidade das arquiteturas de redes recorrentes e independência de
linguagem, fazem com que DL avance no estado da arte na área de
processamento de linguagem natural (NLP)
Chatbots ganharam mais poder e flexibilidade com os avanços em Deep
Learning.

26. Cloud

27. FIM