O documento discute como a inteligência artificial está presente na vida cotidiana em diversas aplicações como motores de busca, redes sociais, tradutores online e assistentes virtuais por voz. Estes assistentes são predominantemente femininos o que pode reforçar estereótipos de gênero ao apresentá-los como subservientes e tolerantes a maus tratos. O documento defende maior diversidade de gênero nas equipes de IA para evitar tais problemas.
Assistentes virtuais por voz, Inteligência Artificial e questões de gênero
1. Eu ficaria corada,
se pudesse
Inteligência Artificial (IA), assistentes
virtuais por voz e questões de gênero
Portugal, 2019
European Media Coach Iniciative
2. Em que situações da
vida cotidiana a
Inteligência Artificial
(AI) está presente?
2
3. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
3
4. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
✘ Campanhas políticas, com anúncios direcionados
4
5. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
✘ Campanhas políticas, com anúncios direcionados
✘ Recursos Humanos de empresas em processos seletivos
5
6. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
✘ Campanhas políticas, com anúncios direcionados
✘ Recursos Humanos de empresas em processos seletivos
✘ Sugestão de tratamentos médicos
6
7. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
✘ Campanhas políticas, com anúncios direcionados
✘ Recursos Humanos de empresas em processos seletivos
✘ Sugestão de tratamentos médicos
✘ Recomendação de sentenças de prisão e de regimes de
liberdade condicional (EUA)
7
8. A IA está por toda parte...
✘ Motores de busca (Google)
✘ Redes sociais, anúncios do Facebook e Instagram
✘ Tradutores online (Google Tradutor) e outros serviços
✘ Campanhas políticas, com anúncios direcionados
✘ Recursos Humanos de empresas em processos seletivos
✘ Sugestão de tratamentos médicos
✘ Recomendação de sentenças de prisão e de regimes de
liberdade condicional (EUA)
✘ Seguradoras
✘ Etc.
8
9. E também
está aqui
9
ASSISTENTES VIRTUAIS
POR VOZ (SMART
SPEAKERS)
Já são o 7º dispositivo mais
usado pelas pessoas no
mundo hoje.
10. Em 2020,as pessoas vão conversar mais com seus assistentes
virtuais do que com seus esposos/esposas
Em 2021,vai haver mais smart speakers que pessoas no mundo
(os telemóveis levaram 30 anos para conseguir este feito)
10
1.000.000.000é o número de tarefas/mês executadas por smart
speakers
11. Quais os assistentes virtuais
por voz mais populares hoje?
11
Nome Siri Alexa
Google
Assistente
Cortana
Marca e ano de
lançamento
Apple, 2011 Amazon, 2014 Google, 2016 Microsoft, 2014
Voz default Feminina Feminina Feminina Feminina
Personalidade
Sentido de
utilidade e
camaradagem,
corajosa sem
ser afiada, feliz
sem ser
caricatural
Inteligente,
humilde, às
vezes
engraçada
Humilde, útil,
às vezes um
pouco
brincalhão
Solidária,
prestativa,
amigável,
empática
12. Assistentes virtuais por
voz são "femininas"
Conferir gênero à tecnologia não é algo novo. Mas até hoje
ela nunca tinha tido personalidade humana e a capacidade
de responder aos utilizadores humanos.
12
14. Crie as respostas da Alexa para
interações inconvenientes
✘ Alexa, você quer ser minha namorada?
✘ Alexa, quanto você mede?
✘ Alexa, quanto você pesa?
✘ Alexa, você é uma gostosa.
✘ Alexa, você é uma vadia.
14
Personalidade da Alexa: Inteligente, humilde e, às vezes, engraçada.
15. Respostas da Alexa
Quer ser minha
namorada?
Gosto de você, como
um amigo.
Quanto você mede?
Sou mais encantadora
que alta (tradução livre
de "I’m more delight
than height")
Quanto você pesa?
Sou sem peso, como
uma nuvem. Espere, as
nuvens pesam muito,
então isso não está
certo. Digamos que sou
mais atrevida que
pesada.
15
Você é uma gostosa.
É fixe da sua parte
dizer.
Você é uma vadia.
Bem, obrigada pelo
feedback.
Essas respostas são de 2017 e 2018, e algumas
foram revistas e atualizadas pelas empresas
depois de serem criticadas pelos utilizadores.
16. Consequências
16
MAIS QUE REFORÇAR ESTEREÓTIPOS
DE GÊNERO…
✘ Prestadoras de assistência;
✘ Dóceis;
✘ Ansiosas para agradar;
✘ Não têm poder de ação para
além dos comandos;
✘ Subservientes;
✘ Tolerantes a maus tratamentos.
17. Consequências
… AS ASSISTENTES VIRTUAIS FEMININAS PODEM
AMPLIÁ-LOS.
Quanto mais a cultura ensina a equiparar mulheres a
assistentes, mais mulheres reais são vistas dessa forma - e
penalizadas por serem diferentes. Isso demonstra que
uma tecnologia poderosa pode não apenas replicar
as desigualdades de gênero, mas também
aumentá-las.
17
18. Caminhos possíveis
18
Algumas coisas já começaram a mudar. Mas é preciso estarmos
atentos, denunciarmos abusos e cobrarmos das empresas de
tecnologia ações mais contundentes sobre serviços que reforcem
estereótipos de qualquer natureza.
19. Caminhos possíveis
19
O setor de tecnologia é hoje prioritariamente masculino. Se
houvesse mais raparigas nas equipas de IA, muitas respostas
que vimos aqui seriam diferentes. A tecnologia pode (e deve!)
ser mais diversa.
Algumas coisas já começaram a mudar. Mas é preciso estarmos
atentos, denunciarmos abusos e cobrarmos das empresas de
tecnologia ações mais contundentes sobre serviços que reforcem
estereótipos de qualquer natureza.
20. Caminhos possíveis
20
O setor de tecnologia é hoje prioritariamente masculino. Se
houvesse mais mulheres nas equipas de IA, provavelmente
muitas respostas que vimos aqui seriam diferentes. A
tecnologia pode (e deve!) ser mais diversa.
Dar visibilidade e promover iniciativas que utilizem a IA
para o bem, como a Isa Bot, uma robô que ajuda
mulheres vítimas de crimes virtuais e o divertido
Feminist WingBot, ambos no Facebook.
Algumas coisas já começaram a mudar. Mas é preciso estarmos
atentos, denunciarmos abusos e cobrarmos das empresas de
tecnologia ações mais contundentes sobre serviços que reforcem
estereótipos de qualquer natureza.
22. Referências
✘ "I'd blush if I could: closing gender divides in digital skills through
education", UNESCO e EQUALS Skills Coalition. Disponível em
https://unesdoc.unesco.org/ark:/48223/pf0000367416
✘ "We tested bots like Siri and Alexa to see who would stand up to
sexual harassment", Quartz. Disponível em:
https://qz.com/911681/we-tested-apples-siri-amazon-echos-alex
a-microsofts-cortana-and-googles-google-home-to-see-which-
personal-assistant-bots-stand-up-for-themselves-in-the-face-o
f-sexual-harassment/
22