Criar #jobs é uma prática comum no suporte a diversos casos de uso. Tarefas agendadas para mecanismos de Retry, Limpeza ou Monitoramento estão presentes em diversos cenários, porém devemos ter cuidado com a forma que implementamos persistência, escala e paralelismo. Nessa conversa iremos mostrar algumas recomendações e boas práticas na criação e configuração de #CronJobs dentro de um ambiente #Kubernetes.

1. Boas práticas na
configuração de
jobs no
Kubernetes
Grazi Bonizi | Maio Containers no DevelopersBR

2. Grazi Bonizi
Consultora DevOps e Microsoft MVP, apóia empresas no seu
processo de transformação digital. Contribui na comunidade
com artigos, podcasts, palestras e vídeos sobre Arquitetura de
Software, DDD, DevOps, Docker e Kubernetes.
• https://twitter.com/grazibonizi
• https://youtube.com/c/GraziBonizi
• https://grazibonizi.me
• https://medium.com/@grazibonizi
• https://www.linkedin.com/in/grazibonizi/

3. Conteúdo
Agenda
➔ Casos de uso comuns
➔ Kubernetes: Jobs
➔ Kubernetes: CronJobs
➔ Considerações sobre escala
➔ Histórias
➔ Premissas

4. Casos de uso comuns
• Inicialização de serviços: setup e migração de banco de dados
• Limpeza de dados/arquivos obsoletos: limpeza de imagens docker de build antigas
• Conferência/correção de integridade/consistência de dados: equiparar saldos em bases de
dados distribuídas
• Cura: verificação se determinado recurso está no ar, e caso não esteja, reinicializá-lo/corrigí-lo
• Importação de dados: Importação de dados via arquivo CSV
• Processamento em massa: Workflows de negócios aplicados em uma grande quantidade de
dados

5. Kubernetes: Jobs
• Um job cria um ou mais Pods e tenta
executá-los até que o número especificado
de jobs termine a execucao com sucesso.
• O tipo de execução pode ser:
• Não paralelo
• Paralelo com uma contagem fixa de execuções
(.spec.completions > 0)
• Paralelo com uma fila de execuções
(.spec.completions não especificado
.spec.parallelism > 0)
apiVersion: batch/v1
kind: Job
metadata:
name: pi
spec:
template:
spec:
containers:
- name: pi
image: perl
command: ["perl", "-Mbignum=bpi", "-wle", "print
bpi(2000)"]
restartPolicy: Never
backoffLimit: 4

6. Kubernetes: CronJobs
• Um CronJob cria jobs agendados.
• A sintaxe do agendamento (Cron, do Unix)
pode ser formatada a partir de ferramentas
como o https://crontab.guru/
• G/A (batch/v1) a partir da versão 1.21 do
Kubernetes. Disponível a partir da 1.18
com o batch/v1beta1
apiVersion: batch/v1beta1
kind: CronJob
metadata:
name: hello
spec:
schedule: "*/1 * * * *"
jobTemplate:
spec:
template:
spec:
containers:
- name: hello
image: busybox
imagePullPolicy: IfNotPresent
command:
- /bin/sh
- -c
- date; echo Hello from the Kubernetes cluster
restartPolicy: OnFailure

7. Considerações sobre escala
• Alto processamento demanda escala vertical (CPU, Memória)
• Paralelismo (escala horizontal) permite redução de tempo de execução de uma grande quantidade
de itens
• Padrões de paralelismo:
• Um job para cada item X um único job para todos os itens: para grandes quantidades de itens, a segunda opção é mais
apropriada
• Número de Pods igual ao número de itens X cada Pod processa múltiplos itens: a primeira opção possui um design
simplificado, enquanto asegunda opção é mais apropriada para grandes quantidades de itens
• Múltiplas abordagens combinadas usando uma lista coordenada: pode resultar em complexidade de design e overhead

8. Histórias...
• “...Cuidado ao fazer o deploy porque determinado job não pode ser executado mais de uma vez”
• “...Para garantir que determinado job agendado só seja executado durante o período noturno ainda
que existam registros a serem processados, configuramos um período limite de execução e os
registros excedentes são processados no dia seguinte”
• “...Se a execução de um job falhar, preciso limpar os registros manualmente antes de executá-lo
novamente”

9. Premissas
• Os jobs devem ser idempotentes, isto é, devem poder ser executados diversas vezes produzindo o
mesmo resultado
• O Kubernetes não garante que os jobs serão executados na quantidade/frequência prevista
• O design/implementação do job deve considerar opções como
• Unicidade de registros: chave única auto gerada / composição de campos
• Campos auxiliares quando determinado item foi processado (flags/timestamps marcando a finalização da execução)
• Remover itens que já foram processados (conceito de filas)
• Para grandes quantidades de itens, considerar paralelismo em bloco (e suspender a execução dos outros quando fizer
sentido - .spec.suspend)

10. Demo: preparando o ambiente
az account list
az account set --subscription '[SubscriptionName]'
az group create --name rgDevelopersBRDemo1 --location westus2
az aks create --resource-group rgDevelopersBRDemo1 --name aksDevelopersBRDemo1 --node-count 1 --enable-
addons monitoring --generate-ssh-keys
az aks get-credentials --resource-group rgDevelopersBRDemo1 --name aksDevelopersBRDemo1
kubectl create namespace dev
helm repo add prometheus-community https://prometheus-community.github.io/helm-charts
helm repo update
helm install prometheus prometheus-community/kube-prometheus-stack
kubectl patch svc "prometheus-grafana" -n dev -p '{"spec": {"type": "LoadBalancer"}}'
Grafana default user/password: admin / prom-operator

11. Demo: CronJob yaml
apiVersion: batch/v1beta1
kind: CronJob
metadata:
name: piprint
namespace: dev
spec:
schedule: "*/1 * * * *"
jobTemplate:
spec:
template:
metadata:
labels:
generatedBy: piprint
spec:
containers:
- name: pi
image: perl
command: ["perl", "-Mbignum=bpi", "-wle", "print bpi(5000)"]
restartPolicy: OnFailure

12. Demo: Comandos adicionais
$pods=$(kubectl get pods -l generatedBy=piprint -o=jsonpath='{.items[*].metadata.name}' -n dev)
kubectl logs $pods -n dev
kubectl delete cronjob piprint -n dev
az group delete --name rgDevelopersBRDemo1 --yes --no-wait

13. Referências
• https://v1-20.docs.kubernetes.io/docs/concepts/workloads/controllers/job/
• https://v1-20.docs.kubernetes.io/docs/concepts/workloads/controllers/cron-jobs/
• https://crontab.guru/
• https://github.com/prometheus-community/helm-charts/tree/main/charts/kube-prometheus-
stack#configuration
• https://grafana.com/grafana/dashboards/10884
• https://grafana.com/grafana/dashboards/9144