Slides utilizados no encontro de março de 2018 do Conecta UFPE Recife.
Apresentado por Gabriel Barreto e Jessica Kianne.
Tecnologias podem ser racistas? Produtos podem ser racistas? Design pode ser racista? Produtos que excluem pessoas aparecem com bastante frequência no mercado. É o caso da Mi Band 2 da Xiaomi e da primeira versão do Kinect da microsoft, que não funcionavam bem quando se trata da pele negra. Algo semelhante também acontece com algumas tecnologias que tomam decisões com enviesamento racial e outras que causam situações constrangedoras para seus usuários. O sistema de ads do google, por exemplo, mostrava mais ads para checagem de ficha criminal quando nomes tradicionalmente negros eram pesquisados.
O objetivo desta conversa é entender porque essas situações acontecem e debater sobre o que precisamos fazer e pensar durante as fases do design de um produto para que este seja mais inclusivo.
Gabriel Barreto é Olindense, tem 27 anos, ama tecnologia, entusiasta de Metodologias ágeis, apaixonado por desenvolvimento de software e bastante interessado em UX. Formado em Ciência da Computação (UFPE).
Jessica Kianne é Feminista, Designer formada pelo IFPB e quadrinista nas horas vagas. Jessica tem 27 anos e acredita no Design Social como um potencial agente transformador do mundo.
5. – Ovetta Sampson
Produtos tecnológicos são desenvolvidos por humanos. E não
importa quão boas sejam nossas intenções, ainda podemos
permitir que as qualidades humanas mais indesejáveis possam
entrar em nossa vida tecnológica.
6. - Kodak - Shirley Cards
- 2010, Xbox Kinect
- 2016 Google Photos, reconhecendo pessoas como gorilas
- Nikon S630 e pessoas asiáticas
- #TayTweets
- Desbloqueio por reconhecimento facial Iphone X
Tecnologia pode ser Racista?
7. - Compas - programa usado nos tribunais dos EUA para avaliar o risco
de um réu;
- Reconhecimento Facial - Google Photos, Flickr, HP;
- Algoritmos que selecionam currículos, davam preferência a nomes
associados a origem européia do que a nomes com origem africana;
- O app Beauty.ai não seleciona peles escuras quando está escolhendo
os rostos mais bonitos;
- Buscando por cabelos com "aspecto profissional" e cabelos com
aspecto não profissional;
Algoritmos preconceituosos
8. HP Media "Smart" Computer
>>> https://www.youtube.com/watch?v=t4DT3tQqgRM
9. Dispenser de sabão "Inteligente"
>>> https://www.youtube.com/watch?v=hChdEp0fbeU
10. - A população negra no seu total representa 54% da população
brasileira;
- Em 2013, o CNPQ começa a ter o campo Raça e Cor;
- Ciências Sem Fronteiras: No ano de 2015, os percentuais relativos aos
bolsistas negros totalizaram 4,8%, e os pardos 20,8%. (brancos 57,7%);
- Mulheres negras que realizam pesquisas voltadas para ciências exatas
são pouco mais de 5.000, ou 5,5%;
- No Brasil, segundo um levantamento do Grupo de Gênero da Escola
Politécnica da USP (Poligen), em 120 anos a USP não formou nem dez
mulheres negras.
Pessoas Negras nas Universidades
22. - Tenha times diversos
- - Inclusão/diversidade deve ser prioridade quando
pensando em teste de usabilidade, testes funcionais,
treinamento, etc
- Entender que diversidade está intrinsecamente ligada com
inovação.
Medidas Preventivas
– Ovetta Sampson
23. - Certificar-se de que as pessoas diversas também
estão atingindo os níveis superiores de uma
empresa e se sentindo empoderadas para falar.
- A indústria precisa de "pessoas que entendem as
pessoas". Valorizar pessoas de origens não
técnicas. Cientistas da computação são "apenas
uma peça do que é necessário para construir
tecnologia.
Medidas Preventivas
– Sara Wachter-Boettcher