Political Behavior, pp. 1-21, 2016.

1. 論文紹介
Tweetment Effects on the Tweeted:
Experimentally Reducing Racist
Harassment
Political Behavior (IF 2.138), pp 1–21, 2016
Kevin Munger (Department of Politics, New York University)
2017/07/26
Takano (@mtknnktm)
1

2. 2

3. 3

4. 今回ご紹介する論文
● Twitterのボットによって人種差別発言（ハラスメント）を減らした
○ 差別: 人類のラスボス級存在
● 人種差別発言をたしなめる「どんな人がどんな人に言われると効果的か？」
○ フォロワー数の多い白人アカウントがたしなめると効果的（黒人だと逆効果の場合も）
○ 匿名性の低いアカウントには効果は低め
○ 効果は1ヶ月ぐらい持続する
● この研究のココがすごい
○ Twitterという「本物の社会」でランダム割当実験を設計した
○ 本物の社会なので実験とは異なり長期的な効果を見ることができる
○ 実際に差別発言が減った
○ 差別発言者への対応方法とそれの長期的な効果がわかったということは、様々な場所・場面での
対策検討に役立つ（心理学的な議論をしている）
○ 社会的な意義が非常に高い
4

5. はじめに
● アメリカ社会で公に差別発言することは受け入れられない
○ しかしインターネット上ではそうではない
● ソーシャルメディアにおいてマイノリティ・弱者はしばしばオンラインハラスメントの対
象になる
○ 公なハラスメント発言はマイノリティ・弱者を萎縮させる (Henson et al. 2013)
○ 非白人へのハラスメントはヘルスケアなどの政治トピックへの印象や投票行動に影響する (Banks
2014, 2016; Kam and Kinder 2012)
■ ※ なので、差別を軽減するとともに、公での差別発言を減らすことも重要
○ 直接的なハラスメントとしては脅迫や個人情報の公開など
5

6. はじめに
● オンラインハラスメントを減らす試み
○ 運営や公的機関による教育・モラルの促進
○ 運営による禁止や垢 BAN
○ しかし因果関係はよくわかっていない（ Paluck and Green 2009）
○ → この論文でやる。Twitter上での介入実験
● 検証する軸
○ たしなめるBot
■ アイデンティティ（ここでは白人 or 黒人）
● Social Identity Theory（Tajfel and Turner 1979）
● 同じグループ（似た属性の人）からの制裁は効果的
■ 影響度（フォロワー数）
● Influentials hypothesis (Aral and Walker 2012)
● 影響度の大きい個人は社会の行動規範の変化を促進しやすい
○ 差別発言者
■ 匿名度
● 匿名度が高いと効果が低い可能性（ Omernick and Sood 2013）
6
仮説
In group: 白人bot、Out Group: 黒人bot
High/Low: フォロワー数

7. 実験対象アカウント（明確なハラスメントユーザ）の抽出
● データ取得
○ 「明確な差別発言 “n****r”（に○゛ー）」を他のユーザにし
ているユーザ
○ 最新の1000個のツイート
○ 2015年夏（8, 9月に3回に分けて抽出）
● 前処理
○ 攻撃力スコアを付与
○ 「品のない言葉（Swear word）と中傷（Slur）」の簡潔な
言葉リストを使用
■ 閾値以下のアカウントを除去
○ 白人以外を除去
○ “n****r”と言っている人と言われている人が友人なら除
去
○ 明確に未成年と分かるものは除去
○ 残ったものが差別アカウント（実験対象）
● その他
○ 各アカウントには「匿名度」（ 0〜2）が付与される 7

8. 検索してみた
8

9. 抽出したアカウントの件数（2015年夏）
9

10. 介入
● 発言 “n****r” の24時間以内にbotから「その発言は受け入れられない」と伝える
10
4つのボット種別
ボットのプロフィールは相手から確認される傾向にあっ
た
→ 人種・性別・フォロワー数が相手に伝わったはず
（どうやって調べた？ツイートアクティビティ？論文でも
ちゃんとわからなかった的なことを言っていた）
Bot詳細
● フォロワーは購入したりした。
○ 低フォロワー: 0〜10
○ 高フォロワー: 500〜550
● Botのアバターは肌の色以外は同じ
● 名前は一般的な名前
● 当たれ触りのないツイートをしておく
● @ツイートも半分以上は普通のツイート
● 242人中3人がBotであることを見抜いて非難して
きた

11. 結果: 脱落者数（アカウント削除・非公開・BAN）
11
1回以上ツイート
全アカウント数
脱落割合
（Controlと介入群で有意差なし）
25回以上ツイート
※ 25回以上ツイートしてないユーザはそもそも前処理で弾かれている？
脱落者は「オンラインハラスメント」しなくなったとして扱う（介入成功とする）

12. 結果: 介入の効果（OLSで分析: 共変量log(followers)と介入前の2ヶ月の攻撃的なツイートの割合; N=242）
● 白人高フォロワーは有意に効果あり！
● 効果は1ヶ月続いた
→ 部分的に仮説を支持
12
仮説
In group: 白人bot、Out Group: 黒人bot
High/Low: フォロワー数

13. 結果: 匿名アカウントへの効果（匿名スコア0, 1のアカウント、N=158）
● 白人高フォロワーは有意に効果あり！
● ただし、効果は1ヶ月もたなかった
13

14. 結果: 非匿名アカウントへの効果（N=84）
● 介入による改善はなし
● 黒人・低フォロワーによる介入は逆効果！
14

15. 議論
● わかったこと
○ オンラインハラスメントは Botによる介入によって減らすことができる
○ In Group（白人）・High Followers（影響度大）からの介入のみ効果
■ それぞれ単独では効果がない
■ → Social Identity Theory, Influential Hypothesis
○ 効果は1ヶ月持続（2ヶ月は続かなかった）
■ 何度も指摘してBotが嫌われたため？
■ “Reactance” 現象
● 誤解を訂正しようとするとより頑固になる (Nyhan and Reifler 2010)
● LGBTQ組織への寄付
○ LGBTQを自認する人（公表している人）は問題を個人化するため、寄付への呼
びかけに反応しにくい（ Harrison and Michelson 2012）
（※ Reactanceとの関連がよくわからない）
● 実験中にも約30%には逆効果だった。大きな標本サイズで詳細に分析が必要。
○ 匿名性
■ 仮説に反して、匿名アカウントへのみ介入効果あり
■ 非匿名アカウントは黒人・低フォロワーからの介入に対して逆効果 15

16. 結論
● 運営や公的機関による検閲
○ 差別主義者にとって逆効果である可能性
○ 例: ポリティカル・コレクトネスに対する反感
● オフラインコミュニティの属性（人種やフォロワー数）を明らかにして、社会規範を推進
することが重要
○ 本研究はこの介入によって差別的な発言を大幅に減らした
○ ただし効果がない・逆効果の場合がある（非匿名アカウント）
● 偏見の研究はたくさんあるが、大学生の被験者実験や自己報告など効果の持続性
が検証できなかった
○ 本研究では客観的に公衆でのハラスメントを追跡し、改善を確認できた
● 他のオンラインメディアや他の問題にも適用可能
○ Twitter以外のメディア
○ 女性差別
○ デマ（ワクチンを有害だと思うこと）の訂正
● オンラインでの行動是正はできたが、それが彼らのオフラインの行動を改善できたは
わからない。そこまで含めて検証することが理想であり、今後やる。 16

17. 発
表
者
の
感
想
● IT・統計技術的には特に難しいことはしていない
○ 問題設定と実験設計がうまい（難しいことをする必要がない）
● 課題の重大さ（人種差別）は言うまでもない。
○ それのオンライン版（近年発現した問題）へのアプローチと具体的な成果
● 論文を読んで思った懸念
○ 今まで公にされていた差別発言がされなくなってしまうことは、差別主義はそのままで、余計に見えづら
くなってしまうという問題が発生するのではないか？（根本的な是正ができないと、見えにくい差別・分断
が発生すると対処が余計にしにくい）
○ 論文ではオンライン行為の是正ができたとしているが、オフライン行動の検証の必要性にも言及
● ネット上のデータ分析は「非常に詳細な観察研究」
● 本研究は「オンライン」もしくは「実験室よりも自然な環境での」社会実験
○ SNS実験: やれそうなこと、やったらおもしろいこと、やるべきことは他にもたくさんありそう
○ Web系企業ならもっと突っ込んだ「実験研究」ができるはず
■ 学術的・社会的意義のある研究の余地はたくさんある
○ もっとテクニカルなことの導入によって、この手の研究をより進めることもできるはず
● 課題: 倫理委員会的なことをどうするか
○ Facebookのニュースフィード操作実験研究に関する批判（最終的に COOが謝罪）
■ http://www.itmedia.co.jp/news/articles/1406/29/news007.html , http://www.itmedia.co.jp/news/articles/1407/07/news038.html ,
http://japan.cnet.com/news/business/35050302/ , 元論文（PNAS, 2014）: http://www.pnas.org/content/111/24/8788.full

18. 18
選択的接触・エコーチェンバーと社会的分断
• 選 択 的 接 触
・ 情 報 を 探 す 際 に、 自 分 の 意 見 に 近 い 情 報 源 を 探 す 行 動
・例: 自分の好みの考え方の著名人・政治家をTwitterでフォローする
→ その結果、社会が大きく分断される。
意見の乖離が大きいと議論は難しく罵倒し合いに。
• エコー・チェンバー（ 共 鳴 する 部 屋 ）
・意見に近いグループに所属すると、意見の偏りが増幅
小林哲郎,“ソーシャルメディアと分断化する社会的リアリティ,” 人工知能学会誌, vol.27,no.1,pp.51–58,2012.
2004年米大統領戦
ブッシュ vs ケリー
2010年米中間選挙2007年韓国大統領選 予備選

19. 19
19
選択的接触・エコーチェンバーと社会的分断
• 日 本 の 場 合
・情報収集する人としない人の分断が顕著
• Yahoo! ニュースのトップページは「公共性」も考慮して選択
・エンタメのほうがクリックはされやすい（ 収 益 性 が 高 い）にも 関 わらず
・ 政 治 ニュースはタイトルを 見 るだけでも 知 識 が 身 につく
・Yahoo!ニュースはどうやって 記 事 の 価 値 を 判 断 しているのか？（https://www.fashionsnap.com/the-posts/2015-04-20/yahoonews/）
・Yahoo! JAPANプレスリリース: 「Yahoo!ニュース」は政治に関する知識の学習に効果的～ トピックス見出しの閲覧が有権者の知識差の縮小に貢献～（Yahoo!
JAPANとNIIの共同研究）（https://about.yahoo.co.jp/pr/release/2013/0318a.html）
稲増 一憲, 三浦 麻子, "「自由」なメディアの陥穽有権者の選好に基づくもうひとつの選択的接触", 社会心理学研究, Vol. 31, No. 3 p. 172-183
(2015)
社会が分断するとフェイクニュースが蔓延しや
すい。
・ 意 見 が 似 てるので 拡 散
・ 分 断 自 体 もより 増 幅
Del Vicario, M., et al.: The spreading of misinformation online, PNAS, Vol. 113, No. 3, (2016)
→ 分断の緩和や拡散の抑止が重要
AbemaTVもNewsがトップ