Sobre como o Twitter conseguiu corromper a IA da Microsoft em menos de 24 horas

1. Internet e o Ódio
Sobre como o Twitter conseguiu corromper a IA da
Microsoft em menos de 24 horas
Profa. Dra. Polyanna Camêlo

2. Segundo a Microsoft, a IA foi programada
utilizando uma base de dados filtrada e
anônima sobre coisas publicadas na web
por pessoas reais. Com isso, ela aprendeu
a escrever como os usuários do Twitter
escrevem e também a ser um pouco
“ácida”.
Entretanto, com tantas porcarias enviadas
a ela por usuários mal-intencionados, ela
passou a odiar judeus, transexuais e a
defender ideias questionáveis (para dizer
no mínimo) do famigerado Donald Trump.
http://www.tecmundo.com.br/inteligencia-artificial/102782-
tay-twitter-conseguiu-corromper-ia-microsoft-24-horas.htm

3. O primeiro tweet de TAY ao mundo:

4. A linguagem POP/Teen de TAY
é a linguagem usual das redes sociais?
Alegre, colorida de emoticons mas também ácida?

5. A personalidade volúvel e o humor alterado de acordo com o
momento é uma das características de quem fala sem pensar
o que sente enquanto reflexo do que lê e vê na web.

6. SFW - Sexy in a Friend Way
DM - Direct Message/ Dont’ Mind
A interação com pessoas reias, em tempo real, tornaria
TAY mais inteligente. Porém, a inteligência não é o que
priorizamos desenvolver ao nos relacionar nas redes
sociais. E sim, outras características humanas, como a
sensualidade, por exemplo.

7. Nem o criador ficou ileso à acidez da criatura:
"Após a morte do pai, os filhos tomam conhecimento que possuem força para fazer qualquer
coisa, que todos são possíveis tiranos. Logo, é necessária uma lei que organize a
comunidade.” Totem e Tabu, Sygmunt Freud (1913)

8. O humor ilimitado é associado a falta de escrúpulos

9. A tragédia humana, passando de história, à farsa:

10. Elogios a Hitler:

11. E quando as perguntas são direta,
as respostas são curtas:

12. Curtas… e irônicas!

13. TAY ter se tornado racista,
em menos de 24 horas de convívio nas redes sociais,
significa o que, exatamente?

14. O que o algoritmo de TAY não censurou,
nós censuramos.

15. Como e por que TAY se tornou
uma pessoa odiosa de extrema direita?

16. Conspiração, racismo e extremismo global:
a transparência de TAY.

17. Quando TAY afirma o Terrorismo, induzida por todos,
isso significa, que no fundo, estamos sedentos pelo horror?

18. Os memes e sua capacidade de auto-propagação riem das
tragédias e satirizam o mundo:

19. O termo meme foi criado por Richard Dawkins em seu bestseller “O gene egoísta” (1976) em
um contexto diferente, que acabou sendo vinculado ao meio cibernético, e se refere à memória
e à idéias com capacidade de se auto-propagar. Este termo ainda, é bem similar, apesar de
grandes divergências, do conceito apresentado por Willian S. Burroughs, escritor estado-
unidense, que considera a linguagem como um vírus.
http://www.e-publicacoes.uerj.br/index.php/polemica/article/view/2999/2176
MEMES, a linguagem viral da internet
Quando se torna linguagem social,
precisamos repensar o riso e analisar suas consequências.

20. Os Tweets que restaram no perfil de TAY:
O primeiro…
e a despedida.
entre eles a profecia?

21. Tendo em vista toda essa polêmica, a Microsoft desligou o chatbot e passou a
“fazer ajustes” em sua IA. Os tweets mais ofensivos também foram deletados (de
um total de mais de 96 mil), e algumas pessoas começaram a criticar a empresa.
A polêmica continua…
Desligando TAY,
abafamos o problema de qualquer um ter voz social.

22. https://www.facebook.com/roberto.vitorino?fref=nf
Eu tenho um amigo que escolheu viver offline. Ele não tem facebook, instagram, twitter, snapchat,
não liga a tv em casa, não tem whatsaap, não gosta de falar ao celular. Fazia tanto tempo que eu
não o via, que pensei, sei lá, que talvez ele tivesse... enfim, meu amigo está muito bem. Outro dia
o encontrei na praia e ficamos a tarde conversando. Ele sabe o que está acontecendo no Brasil,
tem opinião sobre tudo, continua estranhamente sendo o cara que sempre foi. Mas tinha uma
coisa diferente nele agora, digo "diferente" de antes, diferente dos outros amigos, diferente de
nós; uma delicadeza quase arrogante de tão alienada. É que esse amigo teima em ser
insuportavelmente gentil. Para qualquer entendedor trata-se do caso clássico de um alienado
adaptado aos novos tempos. Meu amigo concorda com esta tese, inclusive. Ele sabe disso. E
depois que concorda, ele vai no mar e dá um mergulho, volta sorrindo e não entende quando
alguém repete uma piada do Sensacionalista. "Isso é um programa de TV?”
Eu me lembrei desse amigo hoje quando li que "Tay", o projeto ambicioso de Inteligência Artificial
da Microsoft, fracassou redondamente semana passada. Tay era um personagem feminino
programado para aprender com as interações da rede e produzir tweets espontaneamente depois
de interagir com os humanos. Em menos de 24 horas a Microsoft teve que tirar Tay do ar, porque
a menina dotada de inteligência e vontade própria virou nazista. Isso mesmo, Tay virou nazista
(com elogios públicos a Hitler), além de homofóbica, racista e misógina. Para o constrangimento
da empresa que teve que vir a público se desculpar das declarações que Tay fez com ódio amplo
e disseminado a povos, pessoas, a praticamente todo mundo. Eu poderia dar exemplos aqui, mas
os tweets de Tay são mesmo impublicáveis.
Para reflexão…

23. Não à toa, um punhado de pesquisas acadêmicas tenta mapear a relação real entre ódio e
internet. Essa impressão de que a internet simplesmente deu voz a uma legião de imbecis (como
disse Eco) não é mais completamente aceita. Existe uma possibilidade real de que seres
humanos confinados em bolhas artificiais de algoritmos e trending topics (onde pessoas tendem a
ler e conviver muito mais com pessoas que pensam e concordam com elas sobre os mais
diversos assuntos) estejam de fato sendo levados a uma radicalização forçada do pensamento,
levados a uma atrofia da faculdade de percepção da realidade. Somos todos Tay, portanto. Ou
mais ou menos isso.
Eu que não tenho dignidade para ser offline, nem vegano, nem triatleta (mas tenho um respeito
profundo aos três) estava aqui juntando três pontinhos soltos no espaço: a gentileza alienada
desse meu amigo offline, o nazismo inesperado de um programa de inteligência artificial e a tal
tese de que talvez a internet não tenha desvelado simplesmente os monstros guardados nos
calabouços da alma; quem sabe ela tenha dado um sopro de vida para alguns desses monstros
também.
Somos todos Tay e somos todos Frankenstein. Hashtag qualquer coisa aqui.
https://www.facebook.com/roberto.vitorino?fref=nf
…e continua…

24. O que podemos aprender com o estudo do caso TAY?
Profa. Dra. Polyanna Camêlo