O documento resume as principais plataformas e casos de uso para inteligência artificial na "edge", incluindo Raspberry Pi, Intel Movidius, Jetson Nano, Google Coral e AWS Deeplens. Exemplos de aplicações são apresentados em agricultura, indústria, saúde, cidades inteligentes e segurança. Expectativas para o futuro incluem mais otimizadores para inferência e algoritmos para treinamento na "edge".

1. Globalcode – Open4education
Trilha – Inteligência Artificial
AI at the Edge – Plataformas e Casos de Uso
Fulvio Mascara
Cientista-chefe @ Foursys
Community Manager @ AI Brasil

2. Globalcode – Open4education
• Programo desde os 11 anos
• Gosto de cozinhar e viajar
• Corredor de media e longa distância
• “Tocador” de violão e guitarra
• 30 anos de carreira
• Cientista-chefe (P&D&I) da Foursys
• Community Manager – AI Brasil
• Tecnológo em Proc. Dados (Mackenzie)
• Pós-Graduado em Solution Architect (FIAP)
• Pós-Graduado em Estatística Aplicada (FMU)
… E CRACHÁ!
CARA…

3. Globalcode – Open4education
Agenda
Conceitos
Principais Plataformas de Edge AI
Exemplos de Aplicações
Demonstração
Raspberry Pi
Jetson Nano
Expectativas

4. Globalcode – Open4education
Conceitos
Edge Computing X Fog Computing
Fonte: https://erpinnews.com/fog-computing-vs-edge-computing
Informação é processada no Device (IOT)
Computação e Storage residem no Device, na Aplicação
ou no Componente que produz o dado
Informação é processada em uma LAN próxima aos
Devices, em um Gateway IOT ou um Fog Node
Faz a intermediação entre Edge Computing e Cloud
Computing

5. Globalcode – Open4education
Conceitos
Edge AI no Radar

6. Globalcode – Open4education
Reduzir latência entre a produção do dado e a decisão do que fazer
com ele
Detectar anomalias
Tomar decisões em tempo real
Produzir mais dados
Melhorar continuamente os modelos
Redução de Custos
Provedores de Cloud
API Cognitivas
Conceitos
Motivações para AI at the Edge

7. Globalcode – Open4education
Segurança
Física: Por conta do acesso físico, muitas vezes facilitados, aos dispositivos
Lógica: Na integração com Nodes de Fog Computing
Capacidade de Processamento
O caso de uso ou aplicação requer um modelo ou algoritmo tão complexo, incapaz
de ser processado em Edge
Capacidade de Armazenamento
As aplicações de IA por vezes requerem um volume de informações que não
conseguem ser mantidas num dispositivo pra Edge Computing
Portabilidade
Por vezes, é possível colocar o armazenamento e processamento necessário para a
aplicação, mas a portabilidade pode ser comprometida
Conceitos
Barreiras para AI at the Edge

8. Globalcode – Open4education
Exemplos de Aplicações
Agricultura – Smart Farming
Agribots: Através de Visão Computacional
e mapeamento da área, pode realizar
irrigação, plantio e colheita.
Farm Automation: Sistemas autônomos
com uso de IoT e modelos preditivos para
gestão completa uma fazenda
Disaster Protection: Através de sensores
remotos, identificar anomalias em
temperaturas ou demais sinais de meio
ambiente e informar centros de controle.
https://s9.easternpeak.com/wp-
content/uploads/2019/04/shutterstock_794528251-1.jpg

9. Globalcode – Open4education
Exemplos de Aplicações
Indústria – IIOT
Predictive Maintenance: Com base na
análise de sensores e comportamento dos
mesmos na linha de produção
WMS: Veículos autônomos para
transportes de insumos produtivos e
armazenagem
Disaster Protection: Através de sensores
remotos, identificar anomalias em
temperaturas ou demais sinais de meio
ambiente e informar centros de controle.
https://cdn.insignia.com.au/Content/user/Insignia/img/Domino-
Content-Industry-4.0-blog-image-2..jpg

10. Globalcode – Open4education
Exemplos de Aplicações
Saúde
Wearables: Coletando informações em
real-time e indicando ações preventivas
Controle de Leitos: Uso de Visão
Computacional para identificar quedas de
pacientes
Diabetes: Dispositivos específicos de
monitoramento, que utilizam machine
learning para indicar tendências e sugerir
ações
Telemedicina: Dispositivos de coleta e
auto-diagnóstico, como inputs para
condutas médicas presenciais
https://www.aitrends.com/wp-content/uploads/2017/04/4-
20AIinHealthcare-2.jpg

11. Globalcode – Open4education
Exemplos de Aplicações
Smart Cities
Controle de Tráfego: Com base em
imagens de trânsito e controle de fluxo
Gestão hídrica: Hidrômetros inteligentes,
para detecção de anomalias
Gestão de energia: Relógios inteligentes,
com sistemas de cameras interligados
http://lcv.fee.unicamp.br/images/smart-city-1200px.gif

12. Globalcode – Open4education
Exemplos de Aplicações
Segurança e Biometria
Controle de Acesso: Detecção e
Reconhecimento Facial, Reconhecimento
por Voz
Biometria Comportamental: Análise de
padrões de movimento, gestos e
expressões
Sistemas de Vigilância: Câmeras
inteligentes de segurança
https://www.argustrueid.com/wp-content/uploads/2017/11/3-Ways-
Biometrics-LI.jpg

13. Globalcode – Open4education
Principais Plataformas
Edge Computing para AI – SBC and Sticks
Raspberry Pi Intel Movidius Jetson Nano Google Coral AWS Deeplens

14. Globalcode – Open4education
Principais Plataformas
Raspberry Pi
Mais infos em: https://www.raspberrypi.org

15. Globalcode – Open4education
Principais Plataformas
Intel Movidius – Neural Compute Stick
Mais infos em: https://software.intel.com/en-us/articles/transitioning-from-intel-movidius-neural-compute-sdk-to-openvino-
toolkit

16. Globalcode – Open4education
Principais Plataformas
Intel Movidius - Inferência
Inicializa o
Plugin,
apontando
para o
Device
Carrega o
arquivo de
Network
Graph
Carrega a
Network
Graph no
Plugin
Inicializa
um Tensor,
com uma
imagem
Executa a
inferência,
com base
no Network
Graph

17. Globalcode – Open4education
Principais Plataformas
NVIDIA - Jetson Nano (DIGITS)
Mais infos em: https://github.com/dusty-nv/jetson-inference/blob/master/docs/digits-workflow.md

18. Globalcode – Open4education
Principais Plataformas
NVIDIA - Jetson Nano (TensorRT)
Mais infos em: https://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html

19. Globalcode – Open4education
Principais Plataformas
Jetson Nano – Inferência (TensorRT)
Mais infos em: https://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html

20. Globalcode – Open4education
Principais Plataformas
Google Coral
Mais infos em: https://coral.withgoogle.com/docs/edgetpu/models-intro/

21. Globalcode – Open4education
Principais Plataformas
Google Coral - Inferência
Cria uma
instância,
apontando
um modelo
Inicializa
um Tensor
com uma
imagem
Executa a
inferência
Retorna
Labels e
Scores
Classification Engine
Cria uma
instância,
apontando
um modelo
Inicializa
um Tensor
com uma
imagem
Executa a
inferência
Objetos
Candidatos
(Label,
Score e
Posição)
Detection Engine
Mais infos em: https://coral.withgoogle.com/docs/edgetpu/api-intro/
Imprinting Engine (Transfer Learning)
https://arxiv.org/pdf/1712.07136.pdf
Low-Shot Learning with Imprinted Weights

22. Globalcode – Open4education
Principais Plataformas
AWS Deeplens
Mais infos em: https://aws.amazon.com/pt/deeplens/

23. Globalcode – Open4education
Principais Plataformas
AWS Deeplens - Inferência
Mais infos em: https://aws.amazon.com/pt/deeplens/

24. Globalcode – Open4education

25. Globalcode – Open4education
Expectativas ... e sonhos
Mais otimizadores para inferências
Algoritmos otimizados para treinamento de redes
“at the Edge”
Mais plataformas e frameworks para aplicações de
NLP
Raspberry Pi com GPU que permita treinar redes

26. Globalcode – Open4education
Contatos
in/fulviomascara @fulviomascara fulvio.mascara fulviomascara

27. Globalcode – Open4education

28. Muito obrigado !