Machine learning (ML) provides innovation for every business. Until recently, developing ML models took time and effort, making it difficult for developers to get started. In this session, we demonstrate how Amazon SageMaker—a fully managed service that enables developers to build, train, and deploy ML models at scale—overcomes those barriers. We review its capabilities across data labeling, model building, model training, tuning, and production hosting. Additionally, Workday—a provider of enterprise cloud applications for human capital management, financial management, and analytics—discusses how it accelerated ML throughout its organization, benefits gained, and why it standardized on Amazon SageMaker.

1. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker
ML para Desenvolvedores e Cientistas
de Dados
Marcelo Cunha – Arquiteto de Soluções – Amazon Web Services
Diogo Benicá – Machine Learning Engineer – Youse
A I M 2 0 2

2. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Nossa missão na AWS
Colocar machine learning nas mãos de cada
desenvolvedor

3. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Machine Learning acontece na AWS mais que em qualquer lugar

4. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Portfólio de ML da Amazon:
O mais amplo e profundo conjunto de capacidades
Serviços de IA
Visão
A m a z o n
R e k o g n i t i o n
I m a g e
A m a z o n
R e k o g n i t i o n
V i d e o
A m a z o n
T e x t r a c t
Fala
A m a z o n
P o l l y
A m a z o n
T r a n s c r i b e
Linguagem Chatbots Previsões Recomendações
A m a z o n
T r a n s l a t e
A m a z o n
C o m p r e h e n d
& C o m p r e h e n d
M e d i c a l
A m a z o n
L e x
A m a z o n
F o r e c a s t
A m a z o n
P e r s o n a l i z e
Serviços de ML
A m a z o n
S a g e M a k e r
G r o u n d T r u t h
N o t e b o o k s
A l g o r i t m o s
A W S M a r k e t p l a c e
A p r e n d i z a d o
P o r r e f o r ç o
T r e i n a m e n t o
O t i m i z a ç ã o
( N e o )
I m p l a n t a ç ã o
H o s p e d a g e m
Frameworks Interfaces Infraestrutura
E C 2 P 3
& P 3 d n
E C 2 C 5 F P G A s
A W S I o T
G r e e n g r a s s
E l a s t i c
I n f e r e n c e
RL Coach
Frameworks de ML
&
Infraestrutura

5. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon SageMaker

6. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção

7. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Notebooks pré-
criados
para problemas
comuns
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção
1
2
3

8. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção

9. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção

10. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Otimização do
Modelo
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção

11. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Otimização do
Modelo
Implantação em
um clique
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala

12. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Otimização do
Modelo
Implantação em
um clique
Totalmente
gerenciado com
auto
escalabilidade
para redução de
75% dos custos
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala

13. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de
alta
performance
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Otimização do
Modelo
Implantação em
um clique
Totalmente
gerenciado com
auto
escalabilidade
para redução de
75% dos custos
Flexibilidade e escolha de módulos para desenvolvedores e cientistas de dados
Colete e prepare
dados para
treinamento
Escolha e otimize
seu algoritmo de
ML
Configure e gerencie
ambientes para
treinamento de modelos
Treine e otimize
modelos de ML
Implante modelos em
produção
Escale e gerencie o
ambiente de produção
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala

14. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Notebooks pré-
criados
para problemas
comuns
Colete e prepare
dados para
treinamento
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala

15. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Modelos bem sucedidos requerem dados de alta qualidade

16. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon SageMaker Ground Truth

17. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Anotações humanas
Ground Truth
Como funciona:
Dados brutos Anotações
humanas

18. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Ground Truth
Como funciona:
Dados brutos Anotações
humanas
Anotações humanas

19. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Ground Truth
Rotule dados de treinamento para ML de maneira fácil e precisa,
reduzindo custos em até 70%
Integre facilmente
classificadores humanos
Obtenha resultados
precisos
C A R A C T E R Í S T I C A S P R I N C I P A I S
Classificação
automática com
Machine Learning
Workflows prontos ou
customizados para uso
Administração de
classificações
Rotule rapidamente dados
para treinamento
Força de trabalho
humana pública e
privada

20. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Criação de
algoritmos de
alta
performance
Escolha e otimize
seu algoritmo de
ML
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Ground Truth

21. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Marketplace para Machine Learning

22. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Inscreva-se em apenas
um clique
Disponível no
Amazon SageMaker
FUNCIONALIDADES
Rotulação automática via ML
Proteção de IP
Cobrança e medições automáticas
Procure no
AWS Marketplace
VENDEDORES
Ampla seleção de algoritmos e modelos
pagos, gratuitos e open-source
Proteção de Dados
Rastreável na sua conta AWS
COMPRADORES
AWS Marketplace para Machine Learning
Algoritmos de ML e modelos disponíveis instantaneamente

23. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Mais de 200 algoritmos e modelos
Processamento de
Linguagem Natural
Gramática e Análise OCR Visão Computacional
Reconhecimento de
Entidade Nomeada
Classificação de Vídeo
Reconhecimento de
Fala
Text-to-Speech
Identificação de
Locutor
Classificação de Texto Imagens 3D
Detecção de
Anomalias
Geração de Textos Detecção de Objetos Regressão
Clusterização de
Textos
Reconhecimento de
Caligrafia
Ranking
A L G O R I T M O S E M O D E L O S D I S P O N Í V E I S
V E N D E D O R E S S E L E C I N A D O S

24. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Treinamento
com um clique
sobre a
infraestrutura de
maior
performance
Configure e gerencie
ambientes para
treinamento de modelos
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Ground Truth
AWS Marketplace para
Machine Learning

25. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Mas qual é o próximo passo em
Machine Learning?
Como ensinar modelos de ML para tomarem decisões
quando não há dados para treinamento?

26. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Introdução ao reinforcement learning (RL)
Aprendizado por Reforço
(Reinforcement learning ou RL)
Aprendizado Supervisionado
(ASR, Visão computacional)
Aprendizado não supervisionado
(detecção de anomalia,
Identificação de tópicos de textos)
Quantidade de dados rotulados necessários
Complexidadedasdecisões

27. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker RL
Aprendizado por reforço para qualquer desenvolvedor e cientista de dados
Suporte a ambientes
de física 2D e 3D e
OpenGym
Suporte ao Amazon Sumerian,
AWS RoboMaker, e a projetos de
open source Robotics Operating
System (ROS)
Totalmente
Gerenciado
Exemplos de
notebooks e tutoriais
F U N C I O N A L I D A D E S

28. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Otimização do
Modelo
Treine e otimize
modelos de ML
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Ground Truth
AWS Marketplace para
Machine Learning
Instâncias
Amazon EC2 P3
Amazon
SageMaker RL

29. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
A otimização de modelos pode ser muito complexa

30. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon SageMaker Neo

31. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker Neo:
Treine uma vez, execute onde quiser
Neo

32. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker Neo:
Treine uma vez, execute onde quiser com 2x mais desempenho
F U N C I O N A L I D A D E S
Dispositivo Open-source para rodar e compilar
1/10 do tamanho de frameworks original

33. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
1
2
3
Totalmente
gerenciado com
auto
escalabilidade
para redução de
75% dos custos
Escale e gerencie o
ambiente de produção
Amazon SageMaker:
Crie, treine, e implante modelos de ML em escala
Ground Truth
AWS Marketplace para
Machine Learning
Amazon
SageMaker Neo
Implante em
qualquer lugar
Instâncias
Amazon EC2 P3
Amazon
SageMaker RL

34. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Previsões conduzem a
complexidade e custo
na produção
Inferência
(previsões)
90%
Treinamento
10%

35. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon Elastic Inference

36. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon Elastic Inference
Custos de inferência
mais baixos
Adeque capacidade
com a demanda
Disponibilidade entre 1 a
32 TFLOPS por acelerador
FUNCIONALIDADES
Integrado com
Amazon EC2 e
Amazon SageMaker
Suporte para TensorFlow,
Apache MXNet, e ONNX
com PyTorch em breve
Operações de precisão única e
mista
Reduza os custos de inferência de Deep Learning em até 75%

37. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Como o Amazon Elastic Inference funciona com o Amazon SageMaker?
Notebooks Amazon SageMaker
 Implantações de protótipos com
notebooks no modo local
Endpoints hospedados pelo Amazon SageMaker
 Escalone endpoints com aceleração
do Elastic Inference

38. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Escolha e otimize
o algoritmo de
ML
Treine e melhore
o modelo
Escale e gerencie
o ambiente de
produção
1
2
3
Amazon SageMaker:
Construa, treine e implante modelos de ML em escala
Notebooks pré-
criados
para problemas
comuns
Criação de
algoritmos de alta
performance
Ground Truth
Colete e prepare
os dados de
treinamentos
Treinamento com
um clique sobre a
infraestrutura de
maior performance
Crie e gerencie
ambientes de
treinamento
AWS Marketplace
para Machine
Learning
Instâncias Amazon
EC2 P3
Otimização do
Modelo
Amazon SageMaker
RL
Amazon SageMaker
Neo
Implantação em
um clique
Implante modelos
em produção
Totalmente
gerenciado com
auto escalabilidade
para redução de
75% dos custos
Amazon Elastic
Inference
Implante em
qualquer lugar
Flexibilidade e escolha de módulos para desenvolvedores e cientistas de dados

39. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Visual Search

40. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Arquitetura
Amazon
SageMaker
Notebook
Treinamento
Amazon
SageMaker
Dataset de produtosDesenvolvimento
de
modelo
Treinamento
static website
hospedado no
Amazon S3
Inferência
Conteúdos Web no
CloudFront
AWS CodeCommit
AWS CodePipeline Amazon
Elastic
Container
Registry
Modelo
Hospedagem
Amazon SageMaker
S3
Amazon CloudFront
Usuários
Amazon
API Gateway
AWS Lambda

41. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Ciclo de vida de machine learning @
Youse
Diogo Benicá
Machine learning engineer

42. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T

43. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Ciclo de vida

44. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T

45. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon EMR Amazon S3

46. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Training JobRepositório do modelo Modelo e
Endpoint
(QA)
Modelo e
Endpoint
(Staging)
Modelo e
Endpoint
(Produção)

47. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Repositório da imagem Amazon ECRDocker build

48. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Interface Amazon
SageMaker

49. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Manter consistência entre treino e predição
Data splits customizados, tracking de experimentos,
etc.

50. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon Redshift
(data warehouse)
Amazon
SageMaker

51. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T

52. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon
SageMaker
Amazon EMR
S3
S3
(data lake)
Amazon Redshift
(data warehouse)

53. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon Redshift
(data warehouse)
Amazon EMR Amazon S3
(data lake)
Ferramentas de
visualização
Notebooks

54. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon Redshift
(data warehouse)
Busca dados históricos do
usuário (preço médio, dias
desde a última cotação, etc)
Amazon
SageMaker
Mkt/Campanhas
(> 620K predições/mês)

55. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Amazon SageMaker
Amazon S3
(data lake)
Amazon EMR Amazon S3
(model input)
Amazon Redshift
(data warehouse)
Amazon EMR
Mkt/Campanhas
Relatórios
Ferramentas de
visualização
Cotações do dia
Predições
LTV Report
(> 100K predições/mês)

56. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Facilidade de manutenção e múltiplos modelos com
agilidade

57. © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T
Obrigado!
Marcelo Cunha – Arquiteto de Soluções – Amazon Web Services
Diogo Benicá – Machine Learning Engineer – Youse

58. S U M M I T © 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
“Por favor, responda a pesquisa ao final
da sessão no app. Ao finalizar a
pesquisa, passe no Help Desk e retire
seu brinde!”