最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


解析の結果

　はたして、その結果はうんざりするものでした:


The 10 regular writers who got the most abuse were eight women (four white and four non-white) and two black men. Two of the women and one of the men were gay. And of the eight women in the "top 10", one was Muslim and one Jewish.

And the 10 regular writers who got the least abuse? All men.




定期的に記事を執筆している記者のうち、最も多くの嫌がらせを受けた10人の内訳は、8人が女性で2人が黒人男性だった。そのうち2人の女性と1人の男性はゲイだった。その「トップテン」の８人の女性うち、1人はムスリムで、1人はユダヤ人だった。

そして最も嫌がらせを受けた回数が少なかった10人は、全員男性だった。


　この結果を導き出したのは、計算機によるデータ解析でした。解析結果についても思うところはあるのですが、ここでは技術的な部分についてのみ注目してみます。実はこの記事に合わせて、解析チームの方がこの解析に使った手法についてかなり詳細に書いています:

gardians04.jpg


対象とする読者

　本稿ではこの記事に書いてある手法を、技術者ではない方に向けて解説してみます。ですからプログラマの方などが読まれると冗長に感じられるかと思いますが、そこはご勘弁を。専門家向けの記事と、「データ解析」という言葉が事実上「魔法」と同義語で使われている全く技術に触れない記事はたくさんあるのですが、その中間が埋まっていないように感じていたというのが執筆の動機の一つです。実例の解説は、その「魔法」にかかった靄を取り除き、実際の作業がどのくらい地味なものかを明らかにすることができると思います。

gardians05b.jpg

元の記事では、結果を可視化したものが見られる (© The Guardian)

　なお結果の詳細は、D3.jsを使ったインタラクティブなチャートとして元記事に掲載されていますので是非ご覧になってみてください。「ジャズや競馬[注]の話題に関しては穏やかなコメントが比較的多いが、フェミニズムやパレスチナ問題のコメント欄はかなり荒れる」と言う、どこかで聞いたような話だな...と思わず苦笑してしまうような事実がデータに基づき図表で解説されています。実際の嫌がらせの内容にも触れていますので、読んでいてあまり気持ちのいいものではない部分もありますが、「誰でも自由に発信できる世界」に対して記者の方々が払っているコストの生々しい実態が読めます。
[注]: イギリスの記事ですから、日本の競馬とは雰囲気や意味合いがかなり異なるので、そこは注意して読んでください 。

gardians05.png

仮説検証のための技術

　今回の分析では、複雑な統計解析は行われていません。最終的に得られたデータを可視化して、それを使って仮説が正しいかどうかざっと眺めるような作業になっています。基本的な流れとしては、手元にあるデータに欠けている情報を追加し、複数のデータセットを統合し、フィルタリングし、ブラウザ上で可視化するというものです。これは可視化を伴う分析を行う場合の最も基本的な作業です。ただし今回は比較的大きなデータを使っていますので、一部は商用クラウドサービス上でSpark（後述）を利用しています。ここからは実際に使われたデータやツール、手法について詳しくみていきます。

gardians06.png

可視化を目的にする場合の典型的な作業の流れ。基本的に、大量のデータを人間が把握できる大きさまで「濃縮」する作業と言い換えることができる。

使われた技術

　今回使われたツールは、データ分析を業務として行っている方々にはおなじみのものばかりです。例を挙げると:

・テキスト処理のためのPerlスクリプト
・Amazon Web Service (S3, Redshift, EMR)
・Apache Spark
・PostgreSQL
・D3.js
・HTML5

などです。これらのツールは以下のように分類できます。

・データを蓄積して検索可能にする技術: PostgreSQL, S3, Redshift
・データを加工するプログラム: Perlスクリプト
・大規模なデータを複数の計算機で処理する技術: Spark
・それらを実行するための環境を提供する技術: AWS全般, EMR
・最終的なユーザー（今回のケースでは読者）がデータをわかりやすく見られるようにする技術: D3.js, HTML5

これらが実際にはどう使われたのかは後ほど見ていきます。

今、あなたにオススメ
ニュース速報

ビジネス

インタビュー：ＵＳスチール、28年実力利益2500
2025.12.02

ワールド

ネタニヤフ氏、恩赦要請後初の出廷　大統領「最善の利
2025.12.02

ワールド

ロシア安保会議書記、2日に中国外相と会談　軍事協力
2025.12.02

ビジネス

米サイバーマンデー売上高、6.3％増の見通し　ＡＩ
2025.12.02
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本時代劇の挑戦
特集：日本時代劇の挑戦
2025年12月 9日号（12/ 2発売）

『七人の侍』『座頭市』『SHOGUN』......世界が愛した名作とメイド・イン・ジャパンの新時代劇『イクサガミ』の大志

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「世界一幸せな国」フィンランドの今...ノキアの携帯終了、戦争で観光業打撃、福祉費用が削減へ
  • 2
    【クイズ】1位は北海道で圧倒的...日本で2番目に「カニの漁獲量」が多い県は？
  • 3
    【クイズ】次のうち、マウスウォッシュと同じ効果のある「食べ物」はどれ？
  • 4
    【銘柄】関電工、きんでんが上昇トレンド一直線...業…
  • 5
    中国の「かんしゃく外交」に日本は屈するな──冷静に…
  • 6
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙す…
  • 7
    【最先端戦闘機】ミラージュ、F16、グリペン、ラファ…
  • 8
    600人超死亡、400万人超が被災...東南アジアの豪雨の…
  • 9
    メーガン妃の写真が「ダイアナ妃のコスプレ」だと批…
  • 10
    コンセントが足りない！...パナソニックが「四隅配置…
  • 1
    インド国産戦闘機に一体何が？　ドバイ航空ショーで墜落事故、浮き彫りになるインド空軍の課題
  • 2
    【最先端戦闘機】ミラージュ、F16、グリペン、ラファール勢ぞろい　ウクライナ空軍は戦闘機の「見本市」状態
  • 3
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙すぎた...「心配すべき？」と母親がネットで相談
  • 4
    100年以上宇宙最大の謎だった「ダークマター」の正体…
  • 5
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
  • 6
    【クイズ】次のうち、マウスウォッシュと同じ効果の…
  • 7
    128人死亡、200人以上行方不明...香港最悪の火災現場…
  • 8
    【寝耳に水】ヘンリー王子＆メーガン妃が「大焦り」…
  • 9
    【銘柄】関電工、きんでんが上昇トレンド一直線...業…
  • 10
    子どもより高齢者を優遇する政府...世代間格差は5倍…
  • 1
    東京がニューヨークを上回り「世界最大の経済都市」に...日本からは、もう1都市圏がトップ10入り
  • 2
    【クイズ】本州で唯一「クマが生息していない県」はどこ？
  • 3
    一瞬にして「巨大な橋が消えた」...中国・「完成直後」の橋が崩落する瞬間を捉えた「衝撃映像」に広がる疑念
  • 4
    「不気味すぎる...」カップルの写真に映り込んだ「謎…
  • 5
    【写真・動画】世界最大のクモの巣
  • 6
    高速で回転しながら「地上に落下」...トルコの軍用輸…
  • 7
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 8
    まるで老人...ロシア初の「AIヒト型ロボット」がお披…
  • 9
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 10
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中