Chatbots e IAs generativas
• A abordagem conversacional é pilar central na decisão sobre as
ferramentas a utilizar num chatbot. O papel de uma IA em um chatbot dita
a forma como o usuário vai interagir com a empresa.
• Chatbot de regra – um escopo
• Chatbot de IA – Vai responder a questões específicas delineadas
(“intenções”)
• Chatbot com IA generativa – responde a uma necessidade generalista
identificada nos diversos LLms a que recorre (base de dados fixa, baseada
no histórico existente nessa LLM (geralmente sites da web pré-existentes)
Quando utilizar um ou outro? Budget!
• Hoje há infinitas possibilidades (regras, Ia, Ia generativa_
• Qual o seu orçamento?
• O mais comum hoje é um chatbot de regras, derivado do “budget”.
• IA exige:
• Equipe dedicada ou contratada
• Te atende?
• Não...chatbot de regras+Transbordo humano,
• Sim. Desenvolvimento da IA
Imediatismo do cliente
• Qual a sua necessidade?
• Chatbot de regras: limitado ao fluxo delineado, pré defido, responde a
comandos específicos
• Chatbot com IA: identifica as sua intenções (o que vc quer),
compreende e responde a mensagens de forma específica. (intenções
e entidades, desambiguação). Machine learning.
• Chatbot com IA generativa (identifica questões já identificadas pela
vasta web). Ambos vão aprendendo com o uso.
• Chatbot hibrido (responde ao menu+ intenções)
• Independente de ser regras ou IA a gente intervém com nosso saber:
desafio é manter a mesma voz omnichannel
• Desafio: em pouco texto, falar muito.
Chatbot de regras
• Chatbot de regras (uX writing + exigente, Arq. da informação,
taxonomia, etc.)
• Benefícios:
- Simples (low code:fácil de configurar)
- Custo baixo (geralmente mais econômicos)
- Inflexibilidade (limitado a interações pré-definidas no fluxo: árvore de
decisão)
- Escalabilidade (mais difíceis de expandir: criação de árvore,
arquitetura de informação)
- Manutenção (atualização constante: curadoria)
Chatbot de IA
• Equipe especializada
- Adaptação (melhora com o tempo, vamos ensinando e auto
aprendizado pelo machine learning)
- Contexto (mantém conversas em contextos diversos)
- Aprendizado (melhoram com o tempo)
- Custo baixo (geralmente mais caros)
- Complexidade (conhecimento de IA, modulação das intenções e
entidades, curadoria constante )
- Interpretação (podem errar interpretando as intenções dos usuários)
IA generativa
Adaptação (melhora com o tempo, auto aprendizado)
- Contexto (mantém conversas em contextos diversos)
- Aprendizado (melhoram com o tempo)
- Custo elevado (caindo dada a concorrência)
- Complexidade (conhecimento de IA+dev:integração+APIs)
- Interpretação (podem errar interpretando as intenções dos usuários:
alucinações).
- Desafio das LLMs: resposta por conta da LLM (não controle)
IA generativa
• Os sistemas usados no processamento de linguagens naturais são conhecidos
como modelos de linguagem. A definição clássica de um modelo de linguagem é
uma distribuição de probabilidades sobre sequências de símbolos ou palavras.
Para isso, esses modelos são treinados em grandes massas de dados textuais.
• ChatGPT é um grande modelo de linguagem (Large Language Model –LLM), com
175 bilhões de parâmetros, treinado em uma imensa base de dados, capaz de
aprender de forma autônoma e produzir textos sofisticados, aparentemente
inteligentes.
• Os parâmetros são chave para os algoritmos de aprendizado de máquina, pois
representam aquilo que é aprendido pelo modelo com os dados de treinamento.
• Na historia infantil, o rato comeu o:
• Cachorro •Gato •Queijo • Sapato •Cinzeiro

PUC IAs.pptx

  • 1.
    Chatbots e IAsgenerativas
  • 2.
    • A abordagemconversacional é pilar central na decisão sobre as ferramentas a utilizar num chatbot. O papel de uma IA em um chatbot dita a forma como o usuário vai interagir com a empresa. • Chatbot de regra – um escopo • Chatbot de IA – Vai responder a questões específicas delineadas (“intenções”) • Chatbot com IA generativa – responde a uma necessidade generalista identificada nos diversos LLms a que recorre (base de dados fixa, baseada no histórico existente nessa LLM (geralmente sites da web pré-existentes)
  • 3.
    Quando utilizar umou outro? Budget! • Hoje há infinitas possibilidades (regras, Ia, Ia generativa_ • Qual o seu orçamento? • O mais comum hoje é um chatbot de regras, derivado do “budget”. • IA exige: • Equipe dedicada ou contratada • Te atende? • Não...chatbot de regras+Transbordo humano, • Sim. Desenvolvimento da IA
  • 4.
    Imediatismo do cliente •Qual a sua necessidade? • Chatbot de regras: limitado ao fluxo delineado, pré defido, responde a comandos específicos • Chatbot com IA: identifica as sua intenções (o que vc quer), compreende e responde a mensagens de forma específica. (intenções e entidades, desambiguação). Machine learning. • Chatbot com IA generativa (identifica questões já identificadas pela vasta web). Ambos vão aprendendo com o uso. • Chatbot hibrido (responde ao menu+ intenções)
  • 5.
    • Independente deser regras ou IA a gente intervém com nosso saber: desafio é manter a mesma voz omnichannel • Desafio: em pouco texto, falar muito.
  • 6.
    Chatbot de regras •Chatbot de regras (uX writing + exigente, Arq. da informação, taxonomia, etc.) • Benefícios: - Simples (low code:fácil de configurar) - Custo baixo (geralmente mais econômicos) - Inflexibilidade (limitado a interações pré-definidas no fluxo: árvore de decisão) - Escalabilidade (mais difíceis de expandir: criação de árvore, arquitetura de informação) - Manutenção (atualização constante: curadoria)
  • 7.
    Chatbot de IA •Equipe especializada - Adaptação (melhora com o tempo, vamos ensinando e auto aprendizado pelo machine learning) - Contexto (mantém conversas em contextos diversos) - Aprendizado (melhoram com o tempo) - Custo baixo (geralmente mais caros) - Complexidade (conhecimento de IA, modulação das intenções e entidades, curadoria constante ) - Interpretação (podem errar interpretando as intenções dos usuários)
  • 8.
    IA generativa Adaptação (melhoracom o tempo, auto aprendizado) - Contexto (mantém conversas em contextos diversos) - Aprendizado (melhoram com o tempo) - Custo elevado (caindo dada a concorrência) - Complexidade (conhecimento de IA+dev:integração+APIs) - Interpretação (podem errar interpretando as intenções dos usuários: alucinações). - Desafio das LLMs: resposta por conta da LLM (não controle)
  • 9.
    IA generativa • Ossistemas usados no processamento de linguagens naturais são conhecidos como modelos de linguagem. A definição clássica de um modelo de linguagem é uma distribuição de probabilidades sobre sequências de símbolos ou palavras. Para isso, esses modelos são treinados em grandes massas de dados textuais. • ChatGPT é um grande modelo de linguagem (Large Language Model –LLM), com 175 bilhões de parâmetros, treinado em uma imensa base de dados, capaz de aprender de forma autônoma e produzir textos sofisticados, aparentemente inteligentes. • Os parâmetros são chave para os algoritmos de aprendizado de máquina, pois representam aquilo que é aprendido pelo modelo com os dados de treinamento. • Na historia infantil, o rato comeu o: • Cachorro •Gato •Queijo • Sapato •Cinzeiro