SlideShare uma empresa Scribd logo
Ignorância Branca e
Racismo Algorítmico
Tarcízio Silva
Racismo Algorítmico e Dupla Opacidade
“O racismo é um crime perfeito. É um
crime perfeito, porque ao mesmo tempo
em que temos uma sociedade
extremamente racista, as pessoas dizem
que não são racistas. Ou seja, é uma
sociedade de racistas sem racistas” –
Kabengele Munanga
Dupla opacidade: modo pelo qual os discursos
hegemônicos invisibilizam tanto os aspectos
sociais da tecnologia quanto os debates sobre a
primazia de questões raciais nas diversas esferas
da sociedade – incluindo a tecnologia,
recursivamente
“Technochauvinismo é a crença de que
“mais tecnologia” é sempre a solução.
Geralmente vem acompanhada por crenças
como meritocracia a la Ayn Rand; valores
tecnolibertários; e a noção de que
computadores são mais "objetivos" ou "sem
viés" porque eles transformam questões e
respostas em avaliação matemática” –
Meredith Broussard
tarciziosilva.com.br
Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questão de miopias brancas individuais. É o
resultado (não inevitável, mas como uma forte tendência
psicológica) da localização racial. Por causa do privilégio
racial, um conjunto herdado de conceitos e crenças
racializados, experiência e interesse do grupo racial, a
branquitude compreende mal certos tipos de coisas.
tarciziosilva.com.br
Epistemologia da Ignorância Branca
Charles Wade Mills
Miscognição branca como um fenômeno estrutural e não
como uma questão de miopias brancas individuais. É o
resultado (não inevitável, mas como uma forte tendência
psicológica) da localização racial. Por causa do privilégio
racial, um conjunto herdado de conceitos e crenças
racializados, experiência e interesse do grupo racial, a
branquitude compreende mal certos tipos de coisas.
democracia racial
color blindness
“só há um feminismo”
tecnologias são neutras somos todos iguais
meritocraciaracismo = xingamento
“racismo em 2019, nossa!”
“não tem branco no Brasil”
“raça é biológica”
tarciziosilva.com.br
Raça, genocídio e esquecimento
O ponto de vista da América Nativa, África negra e Ásia
colonial sempre esteve consciente que a civilização Europeia
se baseia em barbarismo extra-Europeu, de modo que o
holocausto Judeu não é de modo algum algo incomum, uma
anomalia no desenvolvimento do Ocidente, mas apenas
particular no uso do Contrato Racial contra europeus.
Charles Mills
Algoritmos e Inteligência Artificial
Algoritmos são "uma sequência
finita de instruções precisas
implementáveis em sistemas
computacionais (incluindo mas
não limitadas a cérebros
humanos)”
(Osoba & Welser IV, 2018)
Inteligência Artificial Geral
Inteligência Artificial Estreita
Modalidade que poderia ser imitar escopo,
fluidez e autonomia da inteligência humana
Modalidade efetiva da inteligência artificial em
sistemas automatizados cotidianos, focados
em tarefas relativamente simples (ainda que
enormes em termos quantitativos) em
domínios específicos
tarciziosilva.com.br
Danos Potenciais da
Decisão Automatizada
por Algoritmos/IA
DANOS INDIVIDUAIS DANOS COLETIVOS
SOCIAISDISCRIMINAÇÃO ILEGAL PRÁTICAS INJUSTAS
CONTRATAÇÃO
PERDA DE
OPORTUNIDADES
EMPREGO
SEGURIDADE & BENEFÍCIOS SOCIAIS
HABITAÇÃO
EDUCAÇÃO
ACESSO A CRÉDITO
PERDA FINANCEIRA
PRECIFICAÇÃO DIFERENCIAL
AUMENTO DA VIGILÂNCIA
ESTIGMATIZAÇÃO
SOCIAL
REFORÇO DE ESTEREÓTIPOS
DANOS MORAIS
ACESSO DIFERENCIAL À SAÚDE
NECROPOLÍTICAS
PRIVAÇÃO DE LIBERDADE
(Adap. de Megan Smith
e Joy Buolamwini)
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A vulgaridade do “viés” algorítmico e a ignorância branca
A moralidade codificada por cor do Contrato
Racial restring a posse da liberdade natural e
igualdade a homens brancos. Através de seu
completa não reconhecimento ou, no máximo,
reconhecimento inadequado, míope, pelos
deveres da lei, Não-brancos são relegados a
degraus inferiores da escada moral
Charles W Mills
tarciziosilva.com.br
Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Conexionista
Abordagem simbólica e abordagem conexionista
(Cardon et al, 2018)
Modelo Hipotético-
Dedutivo
Simbólico
Modelo Indutivo
Conexionista
Inteligência Artificial: inescrutável?
Gap no conhecimento sobre AI
Papers propondo
novos modelos
!
Paper estudando
modelos existentes
!
(Epstein, 2018) tarciziosilva.com.br
A injustiça é multifacetada e não
tem apenas uma única fonte ou
solução. É necessário uma virada
reflexiva no debate sobre
discriminação baseada em dados.
O QUÊ?
QUEM
COMO Gangadharan & Niklas
Racismo Algorítmico não é questão apenas de matemática
Racismo algorítmico (Ali)
Technochauvinismo (Broussard)
New Jim Code (Benjamin)
Digital Poorhouse (Eubanks)
Math Destruction (O’Neill)
tarciziosilva.com.br
A “Anti-Caixa Preta” em estudos de tecnologia e sociedade
"Resgato o termo "caixa preta" para
chamar atenção à anti-negritude
rotineira que impregna muito
desenvolvimento de tecnologia. O que
chamo de ‘Anti-Caixa Preta’ liga as
tecnologias supostamente neutras a
desigualdades na lei e políticas públicas
que servem como ferramentas para a
supremacia branca“
Ruha Benjamin
tarciziosilva.com.br
Algoritmos Racistas ou Racismo Algorítmico?
“Feedback Loop”: aprendizado de máquina usa dados
desiguais, intensificando seu impacto negativo
Humanidade Diferencial: instrumentos legais e afetivos não
são aplicados de modo egualitário
Visibilidade/Invisibilidade Diferencial: populações minorizadas,
esp., são sujeitos a diferentes regimes escópicos
Divisão de Trabalho: trabalho operacional de treinamento é
outsourced pra países periféricos
Colonialidade no Negócio da Tecnologia: concentração de
decisões e produção em poucos núcleos
Colonialidade de Campo: áreas da chamada “STEM” engolem
práticas das demais, simplificando e sintetizando dinâmicas
Racismo algorítmico como termo que
dá conta dos modos pelas quais as
práticas de discriminação étnico-raciais
– estruturais, econômicas, políticas e
afetivas – são impulsionadas por
tecnologias digitais e de automação,
tornando ainda mais difícil sua
identificação.
tarciziosilva.com.br
Contra-
Narrativas e
outros mundos
possíveis
Auditorias
Públicas
Regulação
Pesquisa
Pressão
Legislativa
Contra-projetos
O termo “teoria perspectivista”
pode ser usado para entender os
sistemas de opressão, uma
perspectiva de “baixo a cima”
(bottom up) é mais capaz de ser
precisa do que uma de “cima a
baixo” (top down).
Afirmação humana, étnica e cultural,
a um tempo integrando uma prática
de libertação e assumindo o
comando da própria história. A este
complexo de significações, a esta
praxis afro-brasileira, eu denomino
de quilombismo. – Abdias
Nascimento
Auditorias
Públicas
Regulação
Pesquisa
Mobilização
Civil
Pressão
Legislativa
Educação
Computacional
Contra-projetos
Contra-
Narrativas e
outros mundos
possíveis
Auditorias
Públicas
Regulação
Pesquisa
Consciência
Pública
Arte
Pressão
Legislativa
Educação
Computacional
Contra-projetos
Moda
Afetos
Contra-
Narrativas e
outros mundos
possíveis
Fatalismo é uma
ferramenta colonial.
Mobilização
Civil
Referências
BATTLE-BAPTISTE, Witney; RUSERT, Britt (Ed.). WEB Du Bois's Data Portraits: Visualizing Black America. Chronicle Books, 2018.
BENJAMIN, Ruha. Race after technology: Abolitionist tools for the new jim code. John Wiley & Sons, 2019.
BENJAMIN, Ruha (Ed.). Captivating Technology: Race, Carceral Technoscience, and Liberatory Imagination in Everyday Life. Duke University Press, 2019.
BROUSSARD, Meredith. Artificial unintelligence: how computers misunderstand the world. MIT Press, 2018.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: Conference on Fairness, Accountability and Transparency. 2018. p. 77-91.
DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019.
EPSTEIN, Ziv et al. Closing the AI Knowledge Gap. arXiv preprint arXiv:1803.07233, 2018.
ESLAMI, Motahhare et al. I always assumed that I wasn't really that close to [her]: Reasoning about Invisible Algorithms in News Feeds. In: Proceedings of the 33rd annual ACM conference on human factors in computing
systems. ACM, 2015. p. 153-162.
LAPA, Raphael Santos. O fatalismo como estratégia colonial. Revista Epistemologias do Sul, v. 2, n. 2, p. 144-161, 2019.
MILLS, Charles W. The racial contract. Cornell University Press, 2014.
MILLS, Charles W. Black rights/white wrongs: The critique of racial liberalism. Oxford University Press, 2017.
MILLS, Charles W. Ignorância branca. Griot: Revista de Filosofia, v. 17, n. 1, p. 413-438, 2018.
NOBLE, Safiya Umoja. Algorithms of Oppression: How search engines reinforce racism. NYU Press, 2018.
OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017.
RAJI, Inioluwa Deborah; BUOLAMWINI, Joy. Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial ai products. In: AAAI/ACM Conf. on AI Ethics and Society. 2019.
SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. Anais do 42º Congresso Brasileiro de Ciências da Comunicação – Intercom, Belém, 2019a.
SILVA, Tarcízio. Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina. Anais do Congresso de Pesquisadoras/es Negras/os do Nordeste, João Pessoa, 2019b.
SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. In: Anais do IV Simpósio Internacional LAVITS – Assimetrias e (In)visibilidades: Vigilância, Gênero e Raça. Salvador, Bahia,
Brasil, 2019.
SILVEIRA, Sérgio Amadeu da. Tudo sobre Tod@s: redes digitais, privacidade e venda de dados pessoais. São Paulo: Edições Sesc, 2017a.
SILVEIRA, Sérgio. Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas. Edições SESCP SP, 2019.
tarciziosilva.com.br

Mais conteúdo relacionado

Mais procurados

Produção Cultural
Produção CulturalProdução Cultural
Produção Cultural
Flavia Amorim
 
Movimentos sociais sociologia 2 ano
Movimentos sociais   sociologia 2 anoMovimentos sociais   sociologia 2 ano
Movimentos sociais sociologia 2 ano
Judson Malta
 
Introdução às Mídias Digitais
Introdução às Mídias DigitaisIntrodução às Mídias Digitais
Introdução às Mídias Digitais
Tiago Lopes
 
Sociedade e cultura
Sociedade e culturaSociedade e cultura
Sociedade e cultura
Luneya Costa
 
Racismo
RacismoRacismo
Psicologia e comunicação de massa
Psicologia e comunicação de massaPsicologia e comunicação de massa
Psicologia e comunicação de massa
Laércio Góes
 
Movimentos sociais
Movimentos sociaisMovimentos sociais
Movimentos sociais
esdrasfm
 
Preconceito e intolerência
Preconceito e intolerênciaPreconceito e intolerência
Preconceito e intolerência
Victor Claudio
 
Racismo
RacismoRacismo
Racismo
saphira
 
Identidade cultural
Identidade culturalIdentidade cultural
Identidade cultural
Cristofer Castillo
 
Max weber
Max weberMax weber
Xenofobia e Racismo
Xenofobia e RacismoXenofobia e Racismo
Xenofobia e Racismo
Tânia Domingos
 
Racismo no Brasil
Racismo no BrasilRacismo no Brasil
Racismo no Brasil
João Alfredo Telles Melo
 
DIVERSIDADE CULTURAL
DIVERSIDADE CULTURALDIVERSIDADE CULTURAL
DIVERSIDADE CULTURAL
catynes
 
Racismo
RacismoRacismo
Racismo
guest1f39a4
 
Preconceito e ações afirmativas
Preconceito e ações afirmativasPreconceito e ações afirmativas
Preconceito e ações afirmativas
Viegas Fernandes da Costa
 
Racismo
RacismoRacismo
Racismo
guest8c2f131d
 
Etnocentrismo
EtnocentrismoEtnocentrismo
O conceito e a importância da cultura digital
O conceito e a importância da cultura digitalO conceito e a importância da cultura digital
O conceito e a importância da cultura digital
Aline Corso
 
Racismo e Discriminação
Racismo e DiscriminaçãoRacismo e Discriminação
Racismo e Discriminação
Grupo3003
 

Mais procurados (20)

Produção Cultural
Produção CulturalProdução Cultural
Produção Cultural
 
Movimentos sociais sociologia 2 ano
Movimentos sociais   sociologia 2 anoMovimentos sociais   sociologia 2 ano
Movimentos sociais sociologia 2 ano
 
Introdução às Mídias Digitais
Introdução às Mídias DigitaisIntrodução às Mídias Digitais
Introdução às Mídias Digitais
 
Sociedade e cultura
Sociedade e culturaSociedade e cultura
Sociedade e cultura
 
Racismo
RacismoRacismo
Racismo
 
Psicologia e comunicação de massa
Psicologia e comunicação de massaPsicologia e comunicação de massa
Psicologia e comunicação de massa
 
Movimentos sociais
Movimentos sociaisMovimentos sociais
Movimentos sociais
 
Preconceito e intolerência
Preconceito e intolerênciaPreconceito e intolerência
Preconceito e intolerência
 
Racismo
RacismoRacismo
Racismo
 
Identidade cultural
Identidade culturalIdentidade cultural
Identidade cultural
 
Max weber
Max weberMax weber
Max weber
 
Xenofobia e Racismo
Xenofobia e RacismoXenofobia e Racismo
Xenofobia e Racismo
 
Racismo no Brasil
Racismo no BrasilRacismo no Brasil
Racismo no Brasil
 
DIVERSIDADE CULTURAL
DIVERSIDADE CULTURALDIVERSIDADE CULTURAL
DIVERSIDADE CULTURAL
 
Racismo
RacismoRacismo
Racismo
 
Preconceito e ações afirmativas
Preconceito e ações afirmativasPreconceito e ações afirmativas
Preconceito e ações afirmativas
 
Racismo
RacismoRacismo
Racismo
 
Etnocentrismo
EtnocentrismoEtnocentrismo
Etnocentrismo
 
O conceito e a importância da cultura digital
O conceito e a importância da cultura digitalO conceito e a importância da cultura digital
O conceito e a importância da cultura digital
 
Racismo e Discriminação
Racismo e DiscriminaçãoRacismo e Discriminação
Racismo e Discriminação
 

Semelhante a Ignorância Branca e o Racismo Algorítmico

Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
Tarcízio Silva
 
Apropriação Cultural e Empoderamento Negro na Web
Apropriação Cultural e Empoderamento Negro na WebApropriação Cultural e Empoderamento Negro na Web
Apropriação Cultural e Empoderamento Negro na Web
Taís Oliveira
 
O Racismo
O RacismoO Racismo
O Racismo
marleneves
 
Racismo e Antirracismo no Brasil em 2020
Racismo e Antirracismo no Brasil em 2020Racismo e Antirracismo no Brasil em 2020
Racismo e Antirracismo no Brasil em 2020
Taís Oliveira
 
A divisão dos eleitores
A divisão dos eleitoresA divisão dos eleitores
A divisão dos eleitores
Guy Valerio Barros dos Santos
 
Criminalidade e Violência
Criminalidade e ViolênciaCriminalidade e Violência
Criminalidade e Violência
Rudolf Rotchild Costa Cavalcante
 
Não é possível tratar de redes sociais sem tratar de democracia v2
Não é possível tratar de redes sociais sem tratar de democracia v2Não é possível tratar de redes sociais sem tratar de democracia v2
Não é possível tratar de redes sociais sem tratar de democracia v2
augustodefranco .
 
Cartilha pioneirismo no combate ao racismo
Cartilha pioneirismo no combate ao racismoCartilha pioneirismo no combate ao racismo
Cartilha pioneirismo no combate ao racismo
conselhoafroleme
 
Redes Sociais, Superexposição e Violência.
Redes Sociais, Superexposição e Violência.Redes Sociais, Superexposição e Violência.
Redes Sociais, Superexposição e Violência.
Renata Checha
 
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptxDIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
MarinesdeOliveira
 
Abrindo as caixas-pretas: reações à (des)inteligência artificial
Abrindo as caixas-pretas: reações à (des)inteligência artificialAbrindo as caixas-pretas: reações à (des)inteligência artificial
Abrindo as caixas-pretas: reações à (des)inteligência artificial
Tarcízio Silva
 
Preconceito racial - uma ideia sem sentido
Preconceito racial - uma ideia sem sentidoPreconceito racial - uma ideia sem sentido
Preconceito racial - uma ideia sem sentido
Acrópole - História & Educação
 
Racismo algorítmico: pontos essenciais para as empresas
Racismo algorítmico: pontos essenciais para as empresasRacismo algorítmico: pontos essenciais para as empresas
Racismo algorítmico: pontos essenciais para as empresas
Tarcízio Silva
 
Trabalho de moral: racismo
Trabalho de moral: racismoTrabalho de moral: racismo
Trabalho de moral: racismo
António Alves
 
Racismo e Dicas Atinirracistas.docx
Racismo e Dicas Atinirracistas.docxRacismo e Dicas Atinirracistas.docx
Racismo e Dicas Atinirracistas.docx
Ana Carvalho
 
Juventude e cidadania
Juventude e cidadaniaJuventude e cidadania
Juventude e cidadania
Jonas Araújo
 
Racismo sexismo-e-desigualdade-sueli-carneiro-1
Racismo sexismo-e-desigualdade-sueli-carneiro-1Racismo sexismo-e-desigualdade-sueli-carneiro-1
Racismo sexismo-e-desigualdade-sueli-carneiro-1
ZuleikaCamara
 
Movimento negro lei do caô
Movimento negro lei do caôMovimento negro lei do caô
Movimento negro lei do caô
Atividades Diversas Cláudia
 
Direitos humanos e criminalização da pobreza- Coimbra, cecília.
Direitos humanos e criminalização da pobreza- Coimbra, cecília.Direitos humanos e criminalização da pobreza- Coimbra, cecília.
Direitos humanos e criminalização da pobreza- Coimbra, cecília.
Rosane Domingues
 
Queimando sutiã dia da mulher. Prof.Ms.Noe Assunção
Queimando sutiã dia da mulher. Prof.Ms.Noe AssunçãoQueimando sutiã dia da mulher. Prof.Ms.Noe Assunção
Queimando sutiã dia da mulher. Prof.Ms.Noe Assunção
Prof. Noe Assunção
 

Semelhante a Ignorância Branca e o Racismo Algorítmico (20)

Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação e...
 
Apropriação Cultural e Empoderamento Negro na Web
Apropriação Cultural e Empoderamento Negro na WebApropriação Cultural e Empoderamento Negro na Web
Apropriação Cultural e Empoderamento Negro na Web
 
O Racismo
O RacismoO Racismo
O Racismo
 
Racismo e Antirracismo no Brasil em 2020
Racismo e Antirracismo no Brasil em 2020Racismo e Antirracismo no Brasil em 2020
Racismo e Antirracismo no Brasil em 2020
 
A divisão dos eleitores
A divisão dos eleitoresA divisão dos eleitores
A divisão dos eleitores
 
Criminalidade e Violência
Criminalidade e ViolênciaCriminalidade e Violência
Criminalidade e Violência
 
Não é possível tratar de redes sociais sem tratar de democracia v2
Não é possível tratar de redes sociais sem tratar de democracia v2Não é possível tratar de redes sociais sem tratar de democracia v2
Não é possível tratar de redes sociais sem tratar de democracia v2
 
Cartilha pioneirismo no combate ao racismo
Cartilha pioneirismo no combate ao racismoCartilha pioneirismo no combate ao racismo
Cartilha pioneirismo no combate ao racismo
 
Redes Sociais, Superexposição e Violência.
Redes Sociais, Superexposição e Violência.Redes Sociais, Superexposição e Violência.
Redes Sociais, Superexposição e Violência.
 
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptxDIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
DIREITOS HUMANOS E RACISMO ESTRUTURAL.pptx
 
Abrindo as caixas-pretas: reações à (des)inteligência artificial
Abrindo as caixas-pretas: reações à (des)inteligência artificialAbrindo as caixas-pretas: reações à (des)inteligência artificial
Abrindo as caixas-pretas: reações à (des)inteligência artificial
 
Preconceito racial - uma ideia sem sentido
Preconceito racial - uma ideia sem sentidoPreconceito racial - uma ideia sem sentido
Preconceito racial - uma ideia sem sentido
 
Racismo algorítmico: pontos essenciais para as empresas
Racismo algorítmico: pontos essenciais para as empresasRacismo algorítmico: pontos essenciais para as empresas
Racismo algorítmico: pontos essenciais para as empresas
 
Trabalho de moral: racismo
Trabalho de moral: racismoTrabalho de moral: racismo
Trabalho de moral: racismo
 
Racismo e Dicas Atinirracistas.docx
Racismo e Dicas Atinirracistas.docxRacismo e Dicas Atinirracistas.docx
Racismo e Dicas Atinirracistas.docx
 
Juventude e cidadania
Juventude e cidadaniaJuventude e cidadania
Juventude e cidadania
 
Racismo sexismo-e-desigualdade-sueli-carneiro-1
Racismo sexismo-e-desigualdade-sueli-carneiro-1Racismo sexismo-e-desigualdade-sueli-carneiro-1
Racismo sexismo-e-desigualdade-sueli-carneiro-1
 
Movimento negro lei do caô
Movimento negro lei do caôMovimento negro lei do caô
Movimento negro lei do caô
 
Direitos humanos e criminalização da pobreza- Coimbra, cecília.
Direitos humanos e criminalização da pobreza- Coimbra, cecília.Direitos humanos e criminalização da pobreza- Coimbra, cecília.
Direitos humanos e criminalização da pobreza- Coimbra, cecília.
 
Queimando sutiã dia da mulher. Prof.Ms.Noe Assunção
Queimando sutiã dia da mulher. Prof.Ms.Noe AssunçãoQueimando sutiã dia da mulher. Prof.Ms.Noe Assunção
Queimando sutiã dia da mulher. Prof.Ms.Noe Assunção
 

Mais de Tarcízio Silva

Humanidades Digitais Negras
Humanidades Digitais NegrasHumanidades Digitais Negras
Humanidades Digitais Negras
Tarcízio Silva
 
Visão Computacional e Vieses Racializados
Visão Computacional e Vieses RacializadosVisão Computacional e Vieses Racializados
Visão Computacional e Vieses Racializados
Tarcízio Silva
 
Interrogando plataformas e algoritmos digitais
Interrogando plataformas e algoritmos digitaisInterrogando plataformas e algoritmos digitais
Interrogando plataformas e algoritmos digitais
Tarcízio Silva
 
Análise de Redes em Mídias Sociais: Começando sem Erros #codabr
Análise de Redes em Mídias Sociais: Começando sem Erros #codabrAnálise de Redes em Mídias Sociais: Começando sem Erros #codabr
Análise de Redes em Mídias Sociais: Começando sem Erros #codabr
Tarcízio Silva
 
Georges Perec e o Monitoramento de Midias sociais
Georges Perec e o Monitoramento de Midias sociaisGeorges Perec e o Monitoramento de Midias sociais
Georges Perec e o Monitoramento de Midias sociais
Tarcízio Silva
 
Coleta de Dados em Midias Sociais para Pesquisa Acadêmica
Coleta de Dados em Midias Sociais para Pesquisa AcadêmicaColeta de Dados em Midias Sociais para Pesquisa Acadêmica
Coleta de Dados em Midias Sociais para Pesquisa Acadêmica
Tarcízio Silva
 
Jig 2016 A Revolução Será Monitorada?
Jig 2016 A Revolução Será Monitorada?Jig 2016 A Revolução Será Monitorada?
Jig 2016 A Revolução Será Monitorada?
Tarcízio Silva
 
Atuando em monitoramento de midias sociais secomunica
Atuando em monitoramento de midias sociais secomunicaAtuando em monitoramento de midias sociais secomunica
Atuando em monitoramento de midias sociais secomunica
Tarcízio Silva
 
Linguística de Corpus x Monitoramento de Mídias Sociais
Linguística de Corpus x Monitoramento de Mídias SociaisLinguística de Corpus x Monitoramento de Mídias Sociais
Linguística de Corpus x Monitoramento de Mídias Sociais
Tarcízio Silva
 
Introdução a Análise de Redes para Mídias Sociais
Introdução a Análise de Redes para Mídias SociaisIntrodução a Análise de Redes para Mídias Sociais
Introdução a Análise de Redes para Mídias Sociais
Tarcízio Silva
 
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
Tarcízio Silva
 
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
Tarcízio Silva
 
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
Tarcízio Silva
 
Análise de Redes em Mídias Sociais
Análise de Redes em Mídias SociaisAnálise de Redes em Mídias Sociais
Análise de Redes em Mídias Sociais
Tarcízio Silva
 
10 metricas para monitoramento de midias sociais
10 metricas para monitoramento de midias sociais10 metricas para monitoramento de midias sociais
10 metricas para monitoramento de midias sociais
Tarcízio Silva
 
Public Segmentation with social media
Public Segmentation with social mediaPublic Segmentation with social media
Public Segmentation with social media
Tarcízio Silva
 
Como Criar categorias e tags no monitoramento de mídias sociais
Como Criar categorias e tags no monitoramento de mídias sociaisComo Criar categorias e tags no monitoramento de mídias sociais
Como Criar categorias e tags no monitoramento de mídias sociais
Tarcízio Silva
 
Monitoramento de Mídias Sociais para Política e Eleições
Monitoramento de Mídias Sociais para Política e EleiçõesMonitoramento de Mídias Sociais para Política e Eleições
Monitoramento de Mídias Sociais para Política e Eleições
Tarcízio Silva
 
Segmentação de Público no Monitoramento de Mídias Sociais
Segmentação de Público no Monitoramento de Mídias SociaisSegmentação de Público no Monitoramento de Mídias Sociais
Segmentação de Público no Monitoramento de Mídias Sociais
Tarcízio Silva
 
Analisando Comportamento nas Midias Sociais
Analisando Comportamento nas Midias SociaisAnalisando Comportamento nas Midias Sociais
Analisando Comportamento nas Midias Sociais
Tarcízio Silva
 

Mais de Tarcízio Silva (20)

Humanidades Digitais Negras
Humanidades Digitais NegrasHumanidades Digitais Negras
Humanidades Digitais Negras
 
Visão Computacional e Vieses Racializados
Visão Computacional e Vieses RacializadosVisão Computacional e Vieses Racializados
Visão Computacional e Vieses Racializados
 
Interrogando plataformas e algoritmos digitais
Interrogando plataformas e algoritmos digitaisInterrogando plataformas e algoritmos digitais
Interrogando plataformas e algoritmos digitais
 
Análise de Redes em Mídias Sociais: Começando sem Erros #codabr
Análise de Redes em Mídias Sociais: Começando sem Erros #codabrAnálise de Redes em Mídias Sociais: Começando sem Erros #codabr
Análise de Redes em Mídias Sociais: Começando sem Erros #codabr
 
Georges Perec e o Monitoramento de Midias sociais
Georges Perec e o Monitoramento de Midias sociaisGeorges Perec e o Monitoramento de Midias sociais
Georges Perec e o Monitoramento de Midias sociais
 
Coleta de Dados em Midias Sociais para Pesquisa Acadêmica
Coleta de Dados em Midias Sociais para Pesquisa AcadêmicaColeta de Dados em Midias Sociais para Pesquisa Acadêmica
Coleta de Dados em Midias Sociais para Pesquisa Acadêmica
 
Jig 2016 A Revolução Será Monitorada?
Jig 2016 A Revolução Será Monitorada?Jig 2016 A Revolução Será Monitorada?
Jig 2016 A Revolução Será Monitorada?
 
Atuando em monitoramento de midias sociais secomunica
Atuando em monitoramento de midias sociais secomunicaAtuando em monitoramento de midias sociais secomunica
Atuando em monitoramento de midias sociais secomunica
 
Linguística de Corpus x Monitoramento de Mídias Sociais
Linguística de Corpus x Monitoramento de Mídias SociaisLinguística de Corpus x Monitoramento de Mídias Sociais
Linguística de Corpus x Monitoramento de Mídias Sociais
 
Introdução a Análise de Redes para Mídias Sociais
Introdução a Análise de Redes para Mídias SociaisIntrodução a Análise de Redes para Mídias Sociais
Introdução a Análise de Redes para Mídias Sociais
 
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
Monitoramento de Mídias Sociais - Cásper Líbero - 07/2015 - parte 03
 
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 02
 
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
Monitoramento de Midias Sociais - Casper Libero - 07/2015 - parte 01
 
Análise de Redes em Mídias Sociais
Análise de Redes em Mídias SociaisAnálise de Redes em Mídias Sociais
Análise de Redes em Mídias Sociais
 
10 metricas para monitoramento de midias sociais
10 metricas para monitoramento de midias sociais10 metricas para monitoramento de midias sociais
10 metricas para monitoramento de midias sociais
 
Public Segmentation with social media
Public Segmentation with social mediaPublic Segmentation with social media
Public Segmentation with social media
 
Como Criar categorias e tags no monitoramento de mídias sociais
Como Criar categorias e tags no monitoramento de mídias sociaisComo Criar categorias e tags no monitoramento de mídias sociais
Como Criar categorias e tags no monitoramento de mídias sociais
 
Monitoramento de Mídias Sociais para Política e Eleições
Monitoramento de Mídias Sociais para Política e EleiçõesMonitoramento de Mídias Sociais para Política e Eleições
Monitoramento de Mídias Sociais para Política e Eleições
 
Segmentação de Público no Monitoramento de Mídias Sociais
Segmentação de Público no Monitoramento de Mídias SociaisSegmentação de Público no Monitoramento de Mídias Sociais
Segmentação de Público no Monitoramento de Mídias Sociais
 
Analisando Comportamento nas Midias Sociais
Analisando Comportamento nas Midias SociaisAnalisando Comportamento nas Midias Sociais
Analisando Comportamento nas Midias Sociais
 

Ignorância Branca e o Racismo Algorítmico

  • 1. Ignorância Branca e Racismo Algorítmico Tarcízio Silva
  • 2. Racismo Algorítmico e Dupla Opacidade “O racismo é um crime perfeito. É um crime perfeito, porque ao mesmo tempo em que temos uma sociedade extremamente racista, as pessoas dizem que não são racistas. Ou seja, é uma sociedade de racistas sem racistas” – Kabengele Munanga Dupla opacidade: modo pelo qual os discursos hegemônicos invisibilizam tanto os aspectos sociais da tecnologia quanto os debates sobre a primazia de questões raciais nas diversas esferas da sociedade – incluindo a tecnologia, recursivamente “Technochauvinismo é a crença de que “mais tecnologia” é sempre a solução. Geralmente vem acompanhada por crenças como meritocracia a la Ayn Rand; valores tecnolibertários; e a noção de que computadores são mais "objetivos" ou "sem viés" porque eles transformam questões e respostas em avaliação matemática” – Meredith Broussard tarciziosilva.com.br
  • 3. Epistemologia da Ignorância Branca Charles Wade Mills Miscognição branca como um fenômeno estrutural e não como uma questão de miopias brancas individuais. É o resultado (não inevitável, mas como uma forte tendência psicológica) da localização racial. Por causa do privilégio racial, um conjunto herdado de conceitos e crenças racializados, experiência e interesse do grupo racial, a branquitude compreende mal certos tipos de coisas. tarciziosilva.com.br
  • 4. Epistemologia da Ignorância Branca Charles Wade Mills Miscognição branca como um fenômeno estrutural e não como uma questão de miopias brancas individuais. É o resultado (não inevitável, mas como uma forte tendência psicológica) da localização racial. Por causa do privilégio racial, um conjunto herdado de conceitos e crenças racializados, experiência e interesse do grupo racial, a branquitude compreende mal certos tipos de coisas. democracia racial color blindness “só há um feminismo” tecnologias são neutras somos todos iguais meritocraciaracismo = xingamento “racismo em 2019, nossa!” “não tem branco no Brasil” “raça é biológica” tarciziosilva.com.br
  • 5. Raça, genocídio e esquecimento O ponto de vista da América Nativa, África negra e Ásia colonial sempre esteve consciente que a civilização Europeia se baseia em barbarismo extra-Europeu, de modo que o holocausto Judeu não é de modo algum algo incomum, uma anomalia no desenvolvimento do Ocidente, mas apenas particular no uso do Contrato Racial contra europeus. Charles Mills
  • 6. Algoritmos e Inteligência Artificial Algoritmos são "uma sequência finita de instruções precisas implementáveis em sistemas computacionais (incluindo mas não limitadas a cérebros humanos)” (Osoba & Welser IV, 2018) Inteligência Artificial Geral Inteligência Artificial Estreita Modalidade que poderia ser imitar escopo, fluidez e autonomia da inteligência humana Modalidade efetiva da inteligência artificial em sistemas automatizados cotidianos, focados em tarefas relativamente simples (ainda que enormes em termos quantitativos) em domínios específicos tarciziosilva.com.br
  • 7. Danos Potenciais da Decisão Automatizada por Algoritmos/IA DANOS INDIVIDUAIS DANOS COLETIVOS SOCIAISDISCRIMINAÇÃO ILEGAL PRÁTICAS INJUSTAS CONTRATAÇÃO PERDA DE OPORTUNIDADES EMPREGO SEGURIDADE & BENEFÍCIOS SOCIAIS HABITAÇÃO EDUCAÇÃO ACESSO A CRÉDITO PERDA FINANCEIRA PRECIFICAÇÃO DIFERENCIAL AUMENTO DA VIGILÂNCIA ESTIGMATIZAÇÃO SOCIAL REFORÇO DE ESTEREÓTIPOS DANOS MORAIS ACESSO DIFERENCIAL À SAÚDE NECROPOLÍTICAS PRIVAÇÃO DE LIBERDADE (Adap. de Megan Smith e Joy Buolamwini)
  • 8. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 9. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 10. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 11. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 12. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 13. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 14. A vulgaridade do “viés” algorítmico e a ignorância branca
  • 15. A vulgaridade do “viés” algorítmico e a ignorância branca A moralidade codificada por cor do Contrato Racial restring a posse da liberdade natural e igualdade a homens brancos. Através de seu completa não reconhecimento ou, no máximo, reconhecimento inadequado, míope, pelos deveres da lei, Não-brancos são relegados a degraus inferiores da escada moral Charles W Mills tarciziosilva.com.br
  • 16. Abordagem simbólica e abordagem conexionista (Cardon et al, 2018) Modelo Hipotético- Dedutivo Simbólico Modelo Indutivo Conexionista
  • 17. Abordagem simbólica e abordagem conexionista (Cardon et al, 2018) Modelo Hipotético- Dedutivo Simbólico Modelo Indutivo Conexionista
  • 19. Gap no conhecimento sobre AI Papers propondo novos modelos ! Paper estudando modelos existentes ! (Epstein, 2018) tarciziosilva.com.br
  • 20. A injustiça é multifacetada e não tem apenas uma única fonte ou solução. É necessário uma virada reflexiva no debate sobre discriminação baseada em dados. O QUÊ? QUEM COMO Gangadharan & Niklas Racismo Algorítmico não é questão apenas de matemática Racismo algorítmico (Ali) Technochauvinismo (Broussard) New Jim Code (Benjamin) Digital Poorhouse (Eubanks) Math Destruction (O’Neill) tarciziosilva.com.br
  • 21. A “Anti-Caixa Preta” em estudos de tecnologia e sociedade "Resgato o termo "caixa preta" para chamar atenção à anti-negritude rotineira que impregna muito desenvolvimento de tecnologia. O que chamo de ‘Anti-Caixa Preta’ liga as tecnologias supostamente neutras a desigualdades na lei e políticas públicas que servem como ferramentas para a supremacia branca“ Ruha Benjamin tarciziosilva.com.br
  • 22. Algoritmos Racistas ou Racismo Algorítmico? “Feedback Loop”: aprendizado de máquina usa dados desiguais, intensificando seu impacto negativo Humanidade Diferencial: instrumentos legais e afetivos não são aplicados de modo egualitário Visibilidade/Invisibilidade Diferencial: populações minorizadas, esp., são sujeitos a diferentes regimes escópicos Divisão de Trabalho: trabalho operacional de treinamento é outsourced pra países periféricos Colonialidade no Negócio da Tecnologia: concentração de decisões e produção em poucos núcleos Colonialidade de Campo: áreas da chamada “STEM” engolem práticas das demais, simplificando e sintetizando dinâmicas Racismo algorítmico como termo que dá conta dos modos pelas quais as práticas de discriminação étnico-raciais – estruturais, econômicas, políticas e afetivas – são impulsionadas por tecnologias digitais e de automação, tornando ainda mais difícil sua identificação. tarciziosilva.com.br
  • 23. Contra- Narrativas e outros mundos possíveis Auditorias Públicas Regulação Pesquisa Pressão Legislativa Contra-projetos O termo “teoria perspectivista” pode ser usado para entender os sistemas de opressão, uma perspectiva de “baixo a cima” (bottom up) é mais capaz de ser precisa do que uma de “cima a baixo” (top down).
  • 24. Afirmação humana, étnica e cultural, a um tempo integrando uma prática de libertação e assumindo o comando da própria história. A este complexo de significações, a esta praxis afro-brasileira, eu denomino de quilombismo. – Abdias Nascimento Auditorias Públicas Regulação Pesquisa Mobilização Civil Pressão Legislativa Educação Computacional Contra-projetos Contra- Narrativas e outros mundos possíveis
  • 26. Referências BATTLE-BAPTISTE, Witney; RUSERT, Britt (Ed.). WEB Du Bois's Data Portraits: Visualizing Black America. Chronicle Books, 2018. BENJAMIN, Ruha. Race after technology: Abolitionist tools for the new jim code. John Wiley & Sons, 2019. BENJAMIN, Ruha (Ed.). Captivating Technology: Race, Carceral Technoscience, and Liberatory Imagination in Everyday Life. Duke University Press, 2019. BROUSSARD, Meredith. Artificial unintelligence: how computers misunderstand the world. MIT Press, 2018. BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. In: Conference on Fairness, Accountability and Transparency. 2018. p. 77-91. DANIELS, Jessie; NKONDE, Mutale; MIR, Darakhshan. Advancing Racial Literacy in Tech. Relatório do Data & Society Fellowship Program, 2019. EPSTEIN, Ziv et al. Closing the AI Knowledge Gap. arXiv preprint arXiv:1803.07233, 2018. ESLAMI, Motahhare et al. I always assumed that I wasn't really that close to [her]: Reasoning about Invisible Algorithms in News Feeds. In: Proceedings of the 33rd annual ACM conference on human factors in computing systems. ACM, 2015. p. 153-162. LAPA, Raphael Santos. O fatalismo como estratégia colonial. Revista Epistemologias do Sul, v. 2, n. 2, p. 144-161, 2019. MILLS, Charles W. The racial contract. Cornell University Press, 2014. MILLS, Charles W. Black rights/white wrongs: The critique of racial liberalism. Oxford University Press, 2017. MILLS, Charles W. Ignorância branca. Griot: Revista de Filosofia, v. 17, n. 1, p. 413-438, 2018. NOBLE, Safiya Umoja. Algorithms of Oppression: How search engines reinforce racism. NYU Press, 2018. OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017. RAJI, Inioluwa Deborah; BUOLAMWINI, Joy. Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial ai products. In: AAAI/ACM Conf. on AI Ethics and Society. 2019. SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. Anais do 42º Congresso Brasileiro de Ciências da Comunicação – Intercom, Belém, 2019a. SILVA, Tarcízio. Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina. Anais do Congresso de Pesquisadoras/es Negras/os do Nordeste, João Pessoa, 2019b. SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. In: Anais do IV Simpósio Internacional LAVITS – Assimetrias e (In)visibilidades: Vigilância, Gênero e Raça. Salvador, Bahia, Brasil, 2019. SILVEIRA, Sérgio Amadeu da. Tudo sobre Tod@s: redes digitais, privacidade e venda de dados pessoais. São Paulo: Edições Sesc, 2017a. SILVEIRA, Sérgio. Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas. Edições SESCP SP, 2019. tarciziosilva.com.br