Leonardo Quevedo © 2021 烙 Ao ocuparmos os espaços de transformação digital, precisamos pensar na ética empregada em nossas aplicações. Você já se perguntou o que pode acontecer quando algoritmos começam a reproduzir a discriminação dos seres humanos? Quer saber mais sobre como evitar que nossos algoritmos e sistemas se tornem armas de exclusão em massa? Então vem comigo nessa Trinca Talk sobre Discriminação Algorítmica e os seus principais desdobramentos na era da Inteligência Artificial!  Gostou do vídeo? Então se inscreva aqui no canal no botão "Inscreva-se" e ative as notificações!  Quer saber mais sobre essa empresa maravilhosa que é a Trinca? Então acessa o site pra conhecer: https://trin.ca Quer saber um pouco mais sobre o meu percurso no mundo da tecnologia?   Então dá uma conferida no site: https://leonardoquevedo.com  Prende o follow no Github: https://github.com/leopq  E no Medium: https://medium.com/@leonardoquevedo

1. Discriminação
Algorítmica
01

2. 02
Leonardo Quevedo
ENGENHEIRO DE SOFTWARE,
MÚSICO E ESCRITOR.
Desenvolvimento Mobile
Comunidade Open Source
Ecossistema JavaScript
Inteligência Artificial

3. Discriminação
03 DISCRIMINAÇÃO ALGORÍTMICA

4. 04
"A discriminação acontece quando há
uma atitude adversa perante uma
característica específica e diferente de
determinado indivíduo."
(Instituto Geledés da Mulher Negra)
Discriminação
DISCRIMINAÇÃO ALGORÍTMICA

5. 05
Discriminação
Gênero.
Orientação Sexual.
Nacionalidade.
Religião.
Classe social.
Etnia.
DISCRIMINAÇÃO ALGORÍTMICA

6. Inteligência Artificial
06 DISCRIMINAÇÃO ALGORÍTMICA

7. Inteligência Artificial
Em sua essência, permite que os sistemas tomem
decisões de forma independente, apoiados em
conjuntos de dados prévios.
DISCRIMINAÇÃO ALGORÍTMICA 07

8. "Dados são o petróleo da
economia digital."
08 DISCRIMINAÇÃO ALGORÍTMICA

9. Inteligência
Artificial BIG DATA
Grandes conjuntos de dados, a
partir dos quais podemos extrair
informações relevantes.
MACHINE LEARNING
Treinamento de algoritmos
com conjuntos de dados para
determinados fins.
09 DISCRIMINAÇÃO ALGORÍTMICA
DEEP LEARNING
Forma mais eficaz e
performática de treinar
algoritmos.

10. Inteligência
Artificial
DISCRIMINAÇÃO ALGORÍTMICA 10
Cálculo da melhor rota entre
dois pontos geográficos.
Sugestão de músicas e vídeos
nas plataformas de streaming.
Reconhecimento facial nas
redes sociais.
Assistente inteligentes
como a Siri da Apple.

11. Discriminação Algorítmica
11 DISCRIMINAÇÃO ALGORÍTMICA

12. Discriminação
Algorítmica
Algoritmos são construídos por pessoas e
executados com base em dados.
DISCRIMINAÇÃO ALGORÍTMICA 12

13. Discriminação
Algorítmica
Se esses dados ou indivíduos têm alguma
parcialidade em relação a determinado aspecto,
os preconceitos são incoporados aos sistemas.
DISCRIMINAÇÃO ALGORÍTMICA 13

14. Joy Buolamwini
Pesquisadora do MIT nascida em Gana.
Percebeu num belo dia que um robô no qual
trabalhava não era capaz de reconhecer seu
rosto.
Treinamento de algoritmos pode ser bastante
problemático.
14 DISCRIMINAÇÃO ALGORÍTMICA

15. 15
Tay.ai (2016)
Bot da Microsoft criada para simular o
comportamento de uma mulher jovem nas
redes sociais.
A primeira interação: “Olá, mundo”,
acompanhada de emojis da Terra.
Em menos de 24 horas, Tay já havia
aprendido a espalhar ódio contra judeus e
imigrantes e a fazer ameaças na internet.
DISCRIMINAÇÃO ALGORÍTMICA

16. Caso Amazon
(2014 - 2018)
Bot criado para ajudar a selecionar candidatos
a vagas de emprego.
Um ano após aplicação da inteligência artificial
foi constatado que ela havia desenvolvido um
comportamento discriminatório.
Notas mais baixas para currículos que
continham a palavra ‘mulher’.
16 DISCRIMINAÇÃO ALGORÍTMICA

17. St. George
Hospital
Algoritmo para automatizar a primeira etapa de
seleção para residentes de medicina.
Especialização na carreira médica.
Conforme dados históricos, o sistema passou a
penalizar mulheres e minorias raciais.
17 DISCRIMINAÇÃO ALGORÍTMICA

18. 18
Apple Card
(2019 - presente)
Os algoritmos levaram em conta séries
históricas de dados que indicassem as
mulheres como um risco financeiro maior.
Em condições idênticas, limites entre 10 e 20
vezes maiores para homens com relação às
mulheres.
DISCRIMINAÇÃO ALGORÍTMICA

19. Compas
Algorítmo utilizado nos EUA para calcular o
grau de periculosidade de criminosos.
Calcular suas penas e tomar decisões
judiciais.
Perfis idênticos: Mesma idade, mesma
ficha criminal...
19 DISCRIMINAÇÃO ALGORÍTMICA

20. 45%
Compas
DISCRIMINAÇÃO ALGORTÍMICA
20
mais chances de serem considerados perigosos
quando comparados a perfis brancos.
Observou-se que perfis negros possuíam

21. Compas
Foi ensinado a se basear nas sentenças
proferidas anteriormente nos EUA.
Racismo estrutural e chagas de um país
de passado recente de segregação.
Práticas de trabalho não remunerado em
prisões.
21 DISCRIMINAÇÃO ALGORÍTMICA

22. Como podemos evitar?
22 DISCRIMINAÇÃO ALGORÍTMICA

23. Proporcionando uma ampla diversidade nos
ecossistemas da tecnologia.
Ampliando o debate e pensando em estruturas de
teste, regulação e auditoria para algoritmos mais
complexos:
Propostas da Microsoft e Google de
regulamentação da IA.
IBM AI Fairness 360.
Algorithmic Justice League.
23 DISCRIMINAÇÃO ALGORÍTMICA

24. Por que devemos
nos importar?
24 DISCRIMINAÇÃO ALGORÍTMICA

25. Porque somos agentes de transformação digital.
Dever ético com as comunidades que impactamos.
Pensar com cuidado e empatia cada aspecto dos
produtos e experiências digitais que criamos.
Tecnologia não combina com obsolescência, não é
diferente com visões de mundo obsoletas.
25 DISCRIMINAÇÃO ALGORÍTMICA

26. Contribuições?
26 DISCRIMINAÇÃO ALGORÍTMICA

27. Muito
obrigado!
EMAIL
lpachecoquevedo@gmail.com
WEBSITE
https://leonardoquevedo.com