aviebrantz.com
@alvaroviebrantz
Formado em Ciênciada
Computação na UFMT
(2009-2012)
Organizador
comunidade DevMT
Trabalhando pra fora nos últimos 7 anos
● Leverege (2018 - 2021)
○ Projetos de IoT
● Golioth (2021- 2022)
○ Co fundador de plataforma de IoT
● Google Cloud (2022 - atual)
○ BigQuery
○ Cloud SDKs (Go, Node e Rust)
○ Cloud Assist e Gemini
Sobre
Definição
A IA Generativapermite que modelos de
linguagem geram diversos resultados, como
texto, código e imagens, a partir de solicitações
em linguagem natural, que chamamos de
"prompts".
Importante ressaltar que não são precisos e/ou
determinísticos.
Introdução a GenAI
6.
Exemplos
O que podeser gerado ?
Texto: Idéias para campanhas de marketing,
rascunhos de e-mails, melhorar descrição de
produto, resumir documentos, script para um
vídeo, gerar código e muito mais.
Imagens: Pode gerar imagens do zero, recriar
uma mesma imagem com outro estilo, etc.
Vídeos: Veo e Sora são exemplos de modelos de
geração de vídeo.
Música: O Suno e Lyria são exemplos de
modelos focados em geração de música.
7.
Muita generalização
A InteligênciaArtificial (IA) é uma área mais
abrangente que engloba diversas tecnologias e
abordagens para permitir que máquinas simulem
e executem tarefas que normalmente exigiria
inteligência humana.
A Inteligência Artificial Generativa (GenAI) é
uma parte específica em IA, mas que consegue
resolver muitas tarefas que eram de áreas mais
especificas.
GenAI <> AI
8.
GenAI em casosde uso de
AI tradicional
Exemplos
● Classificação: Analise de sentimentos, qual
setor deve responder determinada
pergunta, etc
● Visão computacional:
Detecção/Segmentação de imagem, gerar
descrição de imagem, etc
● Converter dados não estruturados em
dados estruturados. OCR.
● Encontrar padrões em documentos e
dados.
https://cloud.google.com/docs/ai-ml/generative-ai/generative-ai-or-traditional-ai
Definição
Prompt Engineering éo processo iterativo de
refinar prompts e avaliar as respostas do
modelo.
É crucial para alcançar resultados ótimos em
cenários complexos, mesmo que modelos mais
avançados frequentemente funcionem bem para
tarefas mais diretas
Prompt Engineering
11.
Dica
● Persona
● Tarefa
●Informações Contextuais
● Formato
Peça Feedback: Ao
construir prompts
iterativamente, você pode
pedir sugestões ao
modelo em como
melhorar seu prompt
Componentes
Fundamentais
Você é um gerente de uma empresa de [área]. Escreva um rascunho
para um email executivo resumido para [área alvo] baseado neste
[conteúdo de guia interno]. Limite aos 5 principais pontos.
12.
Dica
● Use linguagemnatural: como se estivesse conversando com
outra pessoa, com expressões e pensamentos completos
● Seja especifico na tarefa.
○ A definição das tarefas devem ser breves e concisas
● Iterar e melhorar os prompts de forma contínua
● Use seus documentos e conteúdo como contexto
○ Para os Devs - Tecnicas de RAG e busca semantica
É uma área nova ainda e
em desenvolvimento.
Como toda habilidade,
tem que exercitar mais
para escrever bons
prompts.
Boas práticas
● Dados detreinamento tem uma data limite (cutoff) no
passado (6 meses ~ 1 ano geralmente)
● LLMs levam meses para serem treinados
● Dados atuais ou informações precisas devem ser passadas
explicitamente ao modelo
○ Também conhecido como “Grounding”
○ Por exemplo, adicionar resultados do Google Search
podem ajudar o modelo a gerar informações mais
precisas
RAG - Retrieval
Augmented Generation
Basicamente a técnica
para se injetar
informações relevantes ao
modelo para que ele saiba
coisas fora do seu
conjunto de treinamento
Modelos não tem acesso a
dados atualizados
16.
Cuidado
● Tudo écontexto
● Context Window / Janela de Contexto
○ Define a quantidade de contexto (prompt) que pode
ser enviado e consumido pelo modelo
○ Vemos janelas de 32k, 128k, 2M de tokens
○ Token ~ palavra / pontuação
Modelos de linguagem
custam e performam
baseado no tamanho do
contexto. Seja consciente
do que colocar e quanto
colocar.
Modelos não aprendem
em tempo real
17.
Modelos podem “saber”
doseu histórico de
conversa, porque isso fica
salvo em um banco e é
injetado no contexto.
Uma dica é injetar um
resumo da conversa como
contexto, ao inves de toda
a conversa
Dica
● Por isso janela de contexto é importante. É o tamanho
máximo de “memória” que o modelo tem.
● Se o seu prompt excede o tamanho da janela, ele vai ignorar
as informações extras e pode gerar conteúdo impreciso.
Modelos não tem
memória
18.
● Apenas ospesos do modelo são abertos
● Fine Tuning - Re-treinar para casos
especificos
● Rodar em sua própria infraestrutura ou
local/offline.
● Exemplos: Google Gemma3, Deepseek R1,
Facebook Llamma3.3, Qwen 3, etc
● Apenas disponíveis em provedores em
Nuvem ou API Pública.
● Infraestrutura massiva e em larga escala.
● Custo baseado em uso.
● Exemplos: Gemini, Open AI o3/o4, Veo3,
Imagen4,
Tipos de modelos
Open Source Proprietário
ai.google.dev/gemini-api/docs/models
19.
● Latência menor
●Custo menor
● Menor uso de recursos - memória e GPU
○ Rodar em dispositivos pessoais
● Menos precisos
● Tarefas mais simples e bem específicas
● Exemplos: Gemini Flash e OpenAI GPT 4 Mini
● Latência maior
● Custo maior
● Uso masivo de recursos
○ Hardware comercial para executar
● Tarefas Complexas, Capacidade de
Raciocinio, Maior Criatividade, etc
● Exemplos: Gemini Pro e Open AI GPT 4.1
Tamanho de modelos
1B a 16B 100B+
ai.google.dev/gemini-api/docs/models
20.
● Texto
● Multimodal
○Arquivos, Áudio, Imagem, Video.
● Grounding
○ Busca em conteúdo na internet
● Thinking / Reasoning
○ Deep Research
○ Function Calling / Chamadas de Função
Muitas dessas
capacidades consomem
janela de contexto.
Capacidades dos Modelos
Dica
MCP - ModelContext
Protocol
Está sendo usado como
padrão para definir
ferramentas que agentes
podem utilizar.
Geralmente rodam
localmente, mas estão
sendo melhorados para
uso em servidor/backend.
Agentes e Ferramentas
Definição
Agentes de GenAI são basicamente modelos de GenAI rodando em um
determinado número de iterações, conversando com ele mesmo até
achar que atingiu um objetivo. Geralmente utilizados para resolver
problemas mais complexos e que requerem múltiplos passos/tarefas.
Pode fazer uso de ferramentas/funções disponibilizadas ao modelo.
Exemplos de ferramentas:
● Buscas em banco de dados
● Ler arquivos externos
● Buscar na internet
● Fazer contas matemáticas
Cuidado
MCP ainda nãoé maduro
Ferramentas podem dar muito poder aos Agentes e causar
dados. Lembre-se que modelos de GenAI podem errar.
Exemplos:
● Vazamento de dados ao ter acesso irrestrito a um banco
de dados
● Perda de arquivos e dados.
● Gasto com recursos em nuvem
● Usuário final chamar funções internas e ter acesso a
informações que não deveria
medium.com/data-science-in-your-pocket/mcp-servers-are-not-safe-bfbc2bb7aef8
Veo 3 nãovai roubar seu emprego: vai
criar OUTRO por cima! | Gaveta
Persona em Video
Marketing
Modelos de vídeo estão muito avançados. Inicialmente
era apenas a imagem e com muitos erros. Mas agora com
geração de áudio em sincronia com o video, ele se tornou
oficialmente uma ferramenta de comunicação.
Google Veo3 é o melhor modelo atualmente.
Ainda é difícil manter a saída consistente, mas meio que está
se tornando uma estética própria produzir conteúdo com AI.
Da mesma forma que fazer um filme preto e branco.
32.
Gerar questões baseadas
emconteúdo
Geração de dados
Você é um professor expert em [disciplina]. Escreva X questões de vestibular e de
multipla escolha sobre o tema [tema] [aqui estão N artigos sobre o tema].
A questão deve ter um enunciado, 4 opções incorretas e 1 correta.
Sua resposta DEVE ter o seguinte formato:
[{ “enunciado”: “string”, “opcoes”: [{ “descricao”: “string”, “correta”: “boolean”}]}]
Persona Tarefa Informações Contextuais Formato
34.
Explicar tópico ouquestão
de forma mais fácil
Resumir dados
Você é um professor expert em [disciplina]. Explique o conceito de [conceito] [estilo] [aqui
estão 5 artigos sobre o tema] [perguntas sobre o tema]. Mostre um resumo de no máximo
100 palavras e 5 pontos mais importantes.
Persona Tarefa Informações Contextuais Formato
36.
Extrair dados de
documentose categorizar
Automação
Você é um expert em transcrever documentos para um formato estruturado. Dado os
arquivos com a prova e gabarito, converta os documentos em questões de vestibular de
forma estruturada. As disciplinas conhecidas são: [lista de disciplinas]. A questão deve
ter um enunciado, 4 opções incorretas e 1 correta.
Sua resposta DEVE ter o seguinte formato:
[{ “enunciado”: “string”, “disciplina”: “string”, “opcoes”: [{ “descricao”: “string”, “correta”:
“boolean”}]}]
Persona Tarefa Informações Contextuais Formato
38.
Sugerir tópicos aserem
estudados com base no histórico
Descoberta
Você é um coordenador de curso de vestibular.
Liste quais disciplinas e temas o aluno deveria
estudar. Responda baseado no histórico de estudos
do aluno com ID 123. Justificativa a razão de
recomendar cada disciplina e principais temas a serem
estudados.
Funções: fetch-user-study-history and list-disciplines
Persona Tarefa Informações Contextuais Formato
Name Department CourseNumber Section Time Location
Schedule
Date Topic Homework
Monday
May
5
Lorem ipsum dolor sit amet, consectetur
adipiscing elit, sed do eiusmod tempor incididunt
ut labore et dolore magna aliqua.
● Lorem ipsum dolor sit amet
● Lorem ipsum dolor sit amet,
consectetur adipiscing
Lorem ipsum dolor sit amet, consectetur
adipiscing elit, sed do eiusmod tempor incididunt
ut labore et dolore magna aliqua.
● Lorem ipsum dolor sit amet
● Lorem ipsum dolor sit amet,
consectetur adipiscing
Lorem ipsum dolor sit amet, consectetur
adipiscing elit, sed do eiusmod tempor incididunt
ut labore et dolore magna aliqua.
● Lorem ipsum dolor sit amet
● Lorem ipsum dolor sit amet,
consectetur adipiscing
Lorem ipsum dolor sit amet, consectetur
adipiscing elit, sed do eiusmod tempor incididunt
ut labore et dolore magna aliqua.
● Lorem ipsum dolor sit amet
● Lorem ipsum dolor sit amet,
consectetur adipiscing
Monday
May
12
Monday
May
19
Monday
May
26
DATE
45.
Name Department CourseNumber Section Time Location
Class Materials
Lorem ipsum Lorem ipsum Lorem ipsum
Lorem ipsum dolor sit amet,
consectetur adipiscing elit
Lorem ipsum dolor sit amet,
consectetur adipiscing elit
Lorem ipsum dolor sit amet,
consectetur adipiscing elit
DATE