最新記事

ビッグデータ

「パナマ文書」解析の技術的側面

2.6テラバイトのリークデータを調査報道機関はどうやって分析したのか?

2016年4月12日(火)18時25分
大野圭一朗

プーチン大統領の資産隠しに関わっていると思われる会社と関係者のネットワーク (Generated with Linkurious)

 世界中で話題になっているパナマ文書。各国で政権を揺るがすような事態にもなっていますが、純粋にデータとしてみた場合、これは計算機やデータ解析に関わる人々にも面白いものだと思います。データの中身や背景などについてはさんざん報道されていますのでここでは触れません。一方、現場でどのような作業が行われているのかはあまり報道されていません。現実的な問題として、人力ではどうしようもない量のリークデータを手に入れた場合、調査報道機関はどんなことを行っているのでしょうか? 私も以前から疑問に思っていたのですが、先日あるデータベース企業と、データ分析アプリケーションを作成する会社のブログにて、その実際の一端を窺うことができる投稿がありました:

・Panama Papers: How Linkurious enables ICIJ to investigate the massive Mossack Fonseca leaks
・The Panama Papers: Why It Couldn't Have Happened Ten Years Ago
・Inside the Panama Papers: How Cloud Analytics Made It All Possible

 これらは普段からグラフ(後述)を扱う仕事をしている自分にとっても興味深いものでしたので、ここで紹介します。こう言った現代の調査報道のテクニカルな部分は日本のマスコミで報道されることはほとんどないので、読んでいて純粋に面白かったです。ここでは世界の調査報道機関はどんなテクノロジーを使い何をやっているのかを、技術に明るくない人にもできるだけわかりやすいように書いてみようと思います。

データの形式

 まず今回のデータの計算機的な性質です。公開されている情報によれば、それは以下の様なものです

panamapapers02.gif

出典: Süddeutsche Zeitung "About the Panama Papers"



・容量: 2.6TB。大きさとしては一万円程度のハードディスクにすべて納まります。
・ファイル数: およそ1,150万
・データ形式: 電子メール、RDBなどのデータベース、PDF文書、画像(おそらく多くは書類のスキャン)、テキストファイル。ファイル数の分布は上のチャートを参照

 2.6TBというデータは、現在の計算機にとっては決して大きなものではありません。貴方がテレビ録画用のHDレコーダをお持ちでしたら、おそらくこれより大きなデータをそこに格納できるでしょう。しかし、その大きさのデータを人間が解析しようと思った時、それはあまりにも膨大な量で、とても人力でどうにかなるものではありません。本質的にこのデータセットに対しては、プリントアウトしてひとつひとつ見るというようなアナクロな手法は通用しません。パナマ文書は何らかの検索や可視化の技術が利用できなければ、人間には歯が立たないものなのです

しかし幸運なことに、今回のデータは画像ファイルを除けば(これも最近「インテリジェントな」解析技術が飛躍的に向上していますがここでは触れません)、ほぼすべてが機械で比較的低コストで処理できる形式のファイルです。ここで計算機の出番になります。ここから先は、先の記事から読み取れる技術的な背景について解説していきたいと思います。

データの前処理

 このような膨大な数のファイルを解析する場合、必ずデータの前処理が必要になります。今回のデータセットは大きく二つのタイプに分けることができます:

1. RDB形式(いわゆるデータベース)の機械で容易にアクセスできるファイル
2. 人が読むことを前提にした文書ファイル。テキストと画像、PDFを含む

 今回解析に当たったICIJのデータ解析班は、まず比較的ハードルの低いひとつ目のデータに取り組みました。要するに、データベースを容易に検索できる形に再構築することです。これは専門家の手により数ヶ月で終えることができたそうです。しかし二つ目のデータはそうはいきません。

今、あなたにオススメ
ニュース速報

ビジネス

貿易分断で世界成長抑制とインフレ高進の恐れ=シュナ

ビジネス

テスラの中国生産車、3月販売は前年比11.5%減 

ビジネス

訂正(発表者側の申し出)-ユニクロ、3月国内既存店

ワールド

ロシア、石油輸出施設の操業制限 ウクライナの攻撃で
今、あなたにオススメ
MAGAZINE
特集:引きこもるアメリカ
特集:引きこもるアメリカ
2025年4月 8日号(4/ 1発売)

トランプ外交で見捨てられ、ロシアの攻撃リスクにさらされるヨーロッパは日本にとって他人事なのか?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 2
    8日の予定が286日間に...「長すぎた宇宙旅行」から2人無事帰還
  • 3
    中居正広は何をしたのか? 真相を知るためにできる唯一の方法
  • 4
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 5
    あまりにも似てる...『インディ・ジョーンズ』の舞台…
  • 6
    磯遊びでは「注意が必要」...6歳の少年が「思わぬ生…
  • 7
    ロシア空軍基地へのドローン攻撃で、ウクライナが「…
  • 8
    「隠れたブラックホール」を見つける新手法、天文学…
  • 9
    イラン領空近くで飛行を繰り返す米爆撃機...迫り来る…
  • 10
    【クイズ】アメリカの若者が「人生に求めるもの」ラ…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 2
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 3
    ロシア空軍基地へのドローン攻撃で、ウクライナが「最大の戦果」...巡航ミサイル96発を破壊
  • 4
    中居正広は何をしたのか? 真相を知るためにできる…
  • 5
    800年前のペルーのミイラに刻まれた精緻すぎるタトゥ…
  • 6
    ガムから有害物質が体内に取り込まれている...研究者…
  • 7
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 8
    一体なぜ、子供の遺骨に「肉を削がれた痕」が?...中…
  • 9
    「この巨大な線は何の影?」飛行機の窓から撮影され…
  • 10
    8日の予定が286日間に...「長すぎた宇宙旅行」から2…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは?
  • 2
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 3
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは?
  • 4
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 5
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 6
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 7
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 8
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中