O documento discute o problema das fake news, definindo o que são, como se espalham e os desafios no combate. Apresenta como a tecnologia e vulnerabilidades humanas facilitam a disseminação, e estratégias de contra-ataque como ações legais, auto-regulamentação, educação e pesquisa tecnológica. Conclui que as fake news se tornaram uma ferramenta poderosa ainda sem solução definitiva.

1. Fake News
Contextualização, definições e estratégias
de contra-ataque
Luiz Celso Gomes-Jr
gomesjr@dainf.ct.utfpr.edu.br

2. Agenda
● Tecnologia
● Sociedade
● Vulnerabilidade Humana
● Fake News
● Contra-ataque

3. Agenda
● Tecnologia
● Sociedade
● Vulnerabilidade Humana
● Fake News
● Contra-ataque
A palestra não aborda instâncias políticas brasileiras

4. Apresentação
● Professor de Bancos de Dados/Ciência de
Dados – UTFPR
● Interesses de Pesquisa: Big Data, NLP, IR,
Redes Complexas, ML, privacidade
● Interesse pessoal pelo tópico Fake News
virou pesquisa “sem querer” :)

5. Tecnologia

6. Internet
● Primeiro meio de
comunicação
realmente democrático
● Baixo custo (grátis em
instituições públicas)
● Uma única
mensagem/post pode
atingir toda a base de
usuários

7. Internet - Adoção

8. Internet - Adoção
Brasil (2016): 82% da população com acesso a
internet e 61% possuem smartphone (faixa etária
18-34 anos).
http://www.pewglobal.org/2016/02/22/smartphone-ownership-and-internet-usage-continues-to-climb-in-emergin
g-economies/

9. Redes Sociais
● Revolucionaram a forma como as pessoas
interagem
– Comunicação
– Fonte de informação
– Expressão de opinião
● Grande base de usuários (FB+Twitter>2bi)
● Impacto em diversas áreas
– Mídia, Política, Protestos, Filantropia, Educação...

11. Antes, o alcance e velocidade dos meios de
comunicação eram proporcionais ao custo

12. Tecnologia
Nunca foi tão fácil criar e disseminar
conteúdo. Qualquer pessoa sem
treinamento técnico pode alcançar uma
grande audiência. Poder financeiro e
computacional intensificam esta
capacidade.

13. Tecnologia e Sociedade

14. Dilúvio de Dados
● 1bi usuários
conectados no
facebook
(23/08/2015)
● 2bi smartphones
● 1b websites
● 38 milhões de
mensagens
WhatsApp por
minuto

15. Dilúvio de Dados
● A cada dia, criamos 2.5 quintilhões de bytes de
dados (2015)
● 2.5 quintilhões de bytes = 2.5 exabytes =
2.5*1018
bytes
● 90% dos dados no mundo foram criados nos
últimos 2 anos (~5x por ano)
● Google, Amazon, Microsoft and Facebook =
1,200 petabytes em dados (2013) =
1.200.000.000.000.000.000 bytes = 5 pilhas de
CDs até a ISS
https://www-01.ibm.com/software/data/bigdata/what-is-big-data.html

17. Information economy
● “The world’s most valuable resource is no
longer oil, but data”
● Data companies are the most valuable
listed firms in the world
● The nature of data makes the antitrust
remedies of the past less useful
The Economist - May 6th 2017

18. Valorização no Mercado
(2018)
* U$ 2 tri = Brazil’s GDP (8th
highest in the world)

19. Big Data e o Dilúvio
de Dados

21. Aplicações de Big Data
● Tradicionalmente: uso na indústria e
comércio
● Novas tendências:
– Governos
– Eleições
– Guerras cibernéticas

22. Tecnologia e Sociedade
Estamos cada vez mais dependentes de
aplicações baseadas em dados.
Grandes instituições estão
concentrando informação e poder de
processamento.

23. Vulnerabilidade Humana

24. Caso: Facebook
● Usando análise de dados o Facebook pode
saber (e manipular) muita coisa sobre
seus usuários
– Padrões de uso do serviço
– Orientação sexual, política, cultural
– Situação econômica
– Relacionamentos
– Sentimento, personalidade

25. Análise de Sentimento

26. Predição de Relacionamentos

27. Capacidade de Manipulação

28. Psychological targeting

29. Vende-se: influência
Emerdata
Limited

30. Comportamento Humano
● Comportamento de manada
● Instinto tribal (separação entre “nós” e
“eles”), influência do ciclo social/familiar
● Atração por informação dramática,
surpreendente
● Interação entre emoção e razão

31. "Se muitas pessoas compartilham
uma ideia, outras tendem a segui-
la...", diz Fabrício Benevenuto,
professor da Universidade Federal de
Minas Gerais (UFMG).
● O grupo estudou a
reação de pessoas a
vídeos do YouTube
● Quanto mais os
usuários eram
expostos a
comentários
negativos, mais
reagiam
negativamente
● Quanto menor o
nível de
escolaridade, maior
a influência
Comportamento de manada

32. Grupos de
familiares
O dado é resultado de uma pesquisa
inédita feita pelo Monitor do Debate
Político no Meio Digital, da USP
(Universidade de São Paulo), com
respostas de 2.520 pessoas a um
questionário online elaborado pelo grupo.
Influência do ciclo social/familiar

33. The present research sought to identify
mediators of the relationship between
education and conspiracy beliefs. Results of
Study 1 revealed three independent mediators
of this relationship, namely, belief in simple
solutions for complex problems, feelings of
powerlessness, and subjective social class.
Atração por informação
dramática, surpreendente
(teorias de conspiração)

34. “It seems to be pretty clear [from
our study] that false information
outperforms true information,”
said Soroush Vosoughi, a data
scientist at MIT who has studied
fake news since 2013 and who led
this study. “And that is not just
because of bots. It might have
something to do with human
nature.”
Atração por informação
dramática, surpreendente
(notícias falsas)

35. Raciocínio X Emoções

36. Vulnerabilidade Humana
Humanos são influenciáveis.
Manipulação de dados potencializa este
aspecto. Há grande investimento
comercial e político nestas estratégias.

37. Brasil

38. Ranking de Educação
The United Nations Education index

39. Uso de Smartphone

40. Brasil
Educação precária e alta disseminação
da internet tornam o Brasil
especialmente vulnerável à
manipulação digital.

41. Fake News

42. Tipos de Fake News
● Artigos intencionais cuja falsidade pode
ser comprovada
● Conteúdo satírico que pode ser
interpretado como verdadeiro
● Rumores e lendas urbanas
● Teorias de conspiração
● Omissão ou exagero de fatos, clickbait
● Notícias artificialmente popularizadas (e.g.
por robôs ou pessoas contratadas)

43. Tipos de Fake News
● Artigos intencionais cuja falsidade pode
ser comprovada
● Conteúdo satírico que pode ser
interpretado como verdadeiro
● Rumores e lendas urbanas
● Teorias de conspiração
● Omissão ou exagero de fatos, clickbait
● Notícias artificialmente popularizadas (e.g.
por robôs ou pessoas contratadas)

44. Fontes de Fake News
● Fontes desconhecidas com objetivo de
atrair tráfego (para exibição de
propaganda)
● Organizações com intenção de influenciar
a opinião pública (empresas, partidos
políticos…), possivelmente contratando
serviços profissionais
● Guerra cibernética
● Trotes

45. Anatomia das Fake News

46. Anatomia
Autoridade
Carga emocional
Carga emocional
impede que erros
sejam detectados
[reação emocional > razão]

48. Fake News X Algoritmos
● Google, Facebook, Twitter usam
algoritmos para determinar qual
informação (página, post, contato…) deve
ser destacada
● Estes algoritmos podem ser influenciados
por instituições e indivíduos para
influenciar a visibilidade das informações

49. Bots (robôs) de Influência
● 5-15% dos usuários do Twitter são robôs
● Tipo de robôs
– Prestação de serviço
– Marionete/laranja
– Amplificador/replicador
– Aprovador/incentivador
– Atacante/provocador

50. Click Farms

51. US Elections
● 62 percent of US adults get news on social media
(Gottfried and Shearer 2016);
● the most popular fake news stories were more
widely shared on Facebook than the most
popular mainstream news stories (Silverman
2016);
● many people who see fake news stories report
that they believe them (Silverman and Singer-
Vine 2016);
● the most discussed fake news stories tended to
favor Donald Trump over Hillary Clinton
(Silverman 2016).
Hunt Allcott and Matthew Gentzkow. Social Media and Fake News in the 2016 Election -
Journal of Economic Perspectives 2017

52. Trust in Media

53. Polarização

54. Mídia Social como fonte de
visitas a Fake News

55. Eleções no Brasil

56. Bots e Eleições Presidenciais
* Em geral, 37,4%
dos seguidores de
candidatos são
robôs

57. Fake News
Há diversos tipos e fontes de Fake
News. A estratégia tem sido usada
sistematicamente com objetivos
políticos há anos.

58. Contra-ataque

59. Estratégias
● Ações legais
● Auto-regulamentação
● Educação dos usuários
● Tecnologia

60. Desafios
● Quem decide o que é verdade?
● Como diferenciar:
– Fake vs. Sátira
– Fake vs. Tendencioso
– Fake vs. Reportagem preliminar

61. Desafios
● Identificação da fonte
– Humano + Robôs
– Companhias internacionais
● Incentivo econômico
– Vantagem competitiva (financeira) para
criadores de Fake News
– Não há incentivo formal para combater
Fake News

62. Contra-ataque
Ações legais

63. Ações Legais
● Privacidade: GDPR (General Data
Protection Regulation) – União Européia
● Geração e disseminação de conteúdo
falso:
– Não há estrutura jurídica atualmente
– Tópico complexo e fora do escopo desta
palestra

64. Contra-ataque
Auto-regulamentação

65. Auto-regulamentação
O Facebook retirou do ar páginas e contas usadas por membros do grupo
ativista de direita Movimento Brasil Livre (MBL), reprimindo o que chamou de
"uma rede coordenada que se ocultava com o uso de contas falsas no
Facebook, e escondia das pessoas a natureza e a origem de seu conteúdo com
o propósito de gerar divisão e espalhar desinformação”.

66. Auto-regulamentação
“Many celebrities, politicians and so-called social media
influencers found their Twitter followings knocked down a few
digits on Thursday as the company slashed tens of millions of
suspicious accounts from the totals.”

67. O Tribunal Superior Eleitoral (TSE) assinou hoje [28/06/2018] um
memorando de entendimento com o Facebook e o Google para evitar a
proliferação de notícias falsas (fake news) no período eleitoral.
As empresas se comprometeram a “combater a desinformação gerada
por terceiros”, observando para isso o cumprimento a normas
internacionais de direitos humanos e às boas práticas da indústria.
http://agenciabrasil.ebc.com.br/justica/noticia/2018-06/tse-assina-memorando-com-facebook-e-google-contra-fake-news

68. Iniciativas Facebook

69. Contra-ataque
Educação dos Usuários

71. Projeto Comprova

72. Agência Lupa
https://piaui.folha.uol.com.br/lupa/

74. Contra-ataque
Pesquisa e Tecnologia

75. Laboratório de Estudos sobre Imagem
e Cibercultura da UFES (Labic)
http://www.ufes.br/conteudo/laborat%C3%B3rio-da-ufes-%C3%A9-refer%C3%AAncia-em-an%C3%A1lises-
sobre-fake-news

76. Fabrício Benevenuto et al. (UFMG)

77. “A ideia é que a ferramenta seja um apoio para o usuário. Ainda estamos no
início desse projeto e, no estado atual, o sistema identifica, com 90% de
precisão, notícias que são totalmente verdadeiras ou totalmente falsas”,
pondera o professor. “No entanto, as pessoas que propagam fake news
costumam embasar suas mentiras em fatos verdadeiros. Nossa plataforma
ainda não tem a capacidade de separar as informações com esse nível de
refinamento, mas estamos trabalhando para isso”. Thiago Pardo, do Instituto
de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos.
https://www.icmc.usp.br/noticias/3956-ferramenta-para-detectar-fake-news-e-desenvolvida-pela-usp-e-pela-ufscar

78. Influence Bots
● DARPA Twitter Bot Challenge
● Humans + Machine Learning + NLP +
Complex Networks

79. Pesquisa na
● Questões de privacidade em redes sociais
● Identificação e contingenciamento de
robôs de influência
● Análise de padrões linguísticos e
expressão de sentimentos
● Notícias falsas e redes complexas

80. Contra-ataque
Diversas estratégias estão sendo
exploradas. Ainda não há perspectiva
para a solução do problema.

81. Conclusão
● Fato: Fake News com automação por
algoritmos está se tornando uma
ferramenta para empresas, políticos e
governos
● Fato: Ainda não se pode estimar o impacto
das Fake News em processos eleitorais
● Fato: Estruturas de incentivo favorecem
criadores de Fake News

82. Conclusão
● Opinião: A tecnologia está se
desenvolvendo rapidamente e os efeitos
serão amplificados
● Problemas relacionados:
– Fake News podem tornar aceitáveis
candidatos ou ações que anteriormente
seriam impensáveis?
– Como o uso intensivo de Fake News pode
afetar a percepção e definição do que é
verdade a longo prazo? O quanto isto pode
deteriorar a base da democracia?

83. Sugestões
● Tentar entender o problema e as
técnicas usadas
– Se envolver ou apoiar iniciativas de
pesquisa
● Exigir transparência das instituições
envolvidas
● Se preparar para uma fase de
redefinição de valores para a
sociedade

84. Obrigado
● Email: luizcelso@gmail.com,
gomesjr@dainf.ct.utfpr.edu.br
● Programa de Pós (PPGCA):
ppgca.dainf.ct.utfpr.edu.br