最新記事

ビッグデータ

「パナマ文書」解析の技術的側面

2016年4月12日（火）18時25分
大野圭一朗

テキストデータへの変換

　この記事によれば、画像の多くは紙の書類をスキャンしたものだったようで、そこから文字情報を引き出そうとする場合、OCRという技術が必要になります。OCRとは要するに画像から文字を認識して切り出す技術です。日本でもユーザーの多いEvernoteなどでも利用されている技術です。写真に写った飲み物のラベルの文字が文字列検索で引っかかることがあると思いますが、あの技術のことです。最近はラップトップと家庭用スキャナの組み合わせでも行うことができる、広く普及した技術です。ただし今回は画像の数が膨大なため、時間を短縮するために、商用クラウドコンピューティングサービス（要するに計算機の時間貸し屋さんです）であるAmazon Web ServiceのEC2を使ったようです。どのインスタンスタイプかまでは確認できませんでしたが、30台から40台のEC2インスタンスを用いて、ひたすら画像データを文字情報に変換する作業をまず行いました。

データのグラフ化

　OCRによるテキスト化を行うと、ひとまず計算機上での扱いは容易になります。極端な事を言えば、テキストで保存してある限り、それをエディタで開いて文字列検索することでも、ある程度は何が書いてあるかを読めるようになります。しかし詳細な調査には最終的にはスキャンされた書類や会計報告などを専門家が読み込む必要があり、人や企業のネットワークから、キーワード検索でさらに詳細を調べられるようにしなくてはなりません。それを構築するために用いられるのが全文検索エンジンと呼ばれるものです。実際に使われたものはApache Solrで、メタデータやテキストの切り出しにはTikaが使われました。これらを利用し、彼らはまずファイルの集合からメタデータを切り出しました。ここでいうメタデータとは、ファイルタイプやタイムスタンプなどで、これをインデックス化することにより大量のファイルがより検索しやすくなります。

　しかし、今回のデータにはおよそ215,000もの会社（おそらく多くがペーパーカンパニー）が含まれており、そこを流れるカネを分析するためにはもう一工夫が必要です。ある会社の会計報告や登記簿を読んでいる場合、その会社の関係者、そしてその会社に関連する他の企業などのつながりを見られるようになれば、カネの流れを把握するのに大いに役立ちます。もちろんこれは文章でも表現できます。例えば専門家は今回の文書を実際に読むことにより以下のような情報を得たとします:

・A社の現在の社長はx氏
・A社はB社の取締役であるY氏によって設立された
・Y氏は『A社』というキーワードが大量にヒットするメールをZ氏に頻繁に送っている
・αという住所にA社があり、B社の所在地はβである
・αとβはグランドケイマン島の、γビル内の同じフロアに存在する
・Z氏はγビルのオーナーである

　このレベルのつながりならば、ここから


　X氏とY氏にはA社の創業者とその後継者という繋がりがあり、B社はA社と何らかの繋がりがある。そして会社の登記には名前がないが、Z氏とA社にはY氏を介しておそらく何らかの関係性が存在する。そして両社の所在地から、これらは同一ブローカーが関与して設立されたペーパーカンパニーの可能性がある。そのブローカーはZ氏の可能性がある。


　というような推論が人間にも可能です。ところがこのような繋がりが数十万、数百万というレベルで存在するとどうでしょう。もはやその全体像を人間がこのように文章に書き下して一つづつ把握するのは不可能です。そのために彼らはデータのグラフ化を選択しました。

今、あなたにオススメ
ニュース速報

ビジネス

12月ロイター企業調査：26年度事業展望、25％が
2025.12.11

ワールド

英独仏首脳がトランプ氏と電話会談、ウクライナ和平案
2025.12.11

ビジネス

豪11月就業者数は2.13万人減、予想外のマイナス
2025.12.11

ワールド

米政府、ルクオイル外国資産の売却期限を来年1月17
2025.12.11
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：ジョン・レノン暗殺の真実
特集：ジョン・レノン暗殺の真実
2025年12月16日号（12/ 9発売）

45年前、「20世紀のアイコン」に銃弾を浴びせた男が日本人ジャーナリストに刑務所で語った動機とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    中国軍機の「レーダー照射」は敵対的と、元イタリア空軍の専門家。NATO軍のプロフェッショナルな対応と大違い
  • 2
    トランプの面目丸つぶれ...タイ・カンボジアで戦線拡大、そもそもの「停戦合意」の効果にも疑問符
  • 3
    「何これ」「気持ち悪い」ソファの下で繁殖する「謎の物体」の姿にSNS震撼...驚くべき「正体」とは？
  • 4
    死者は900人超、被災者は数百万人...アジア各地を襲…
  • 5
    【クイズ】アジアで唯一...「世界の観光都市ランキン…
  • 6
    日本の「クマ問題」、ドイツの「問題クマ」比較...だ…
  • 7
    「正直すぎる」「私もそうだった...」初めて牡蠣を食…
  • 8
    「安全装置は全て破壊されていた...」監視役を失った…
  • 9
    イギリスは「監視」、日本は「記録」...防犯カメラの…
  • 10
    ｢韓国のアマゾン｣クーパン､国民の6割相当の大規模情…
  • 1
    日本人には「当たり前」？ 外国人が富士山で目にした「信じられない」光景、海外で大きな話題に
  • 2
    【銘柄】オリエンタルランドが急落...日中対立が株価に与える影響と、サンリオ自社株買いの狙い
  • 3
    日本の「クマ問題」、ドイツの「問題クマ」比較...だから日本では解決が遠い
  • 4
    健康長寿の鍵は「慢性炎症」にある...「免疫の掃除」…
  • 5
    兵士の「戦死」で大儲けする女たち...ロシア社会を揺…
  • 6
    キャサリン妃を睨む「嫉妬の目」の主はメーガン妃...…
  • 7
    中国軍機の「レーダー照射」は敵対的と、元イタリア…
  • 8
    ホテルの部屋に残っていた「嫌すぎる行為」の証拠...…
  • 9
    戦争中に青年期を過ごした世代の男性は、終戦時56％…
  • 10
    【クイズ】アルコール依存症の人の割合が「最も高い…
  • 1
    東京がニューヨークを上回り「世界最大の経済都市」に...日本からは、もう1都市圏がトップ10入り
  • 2
    一瞬にして「巨大な橋が消えた」...中国・「完成直後」の橋が崩落する瞬間を捉えた「衝撃映像」に広がる疑念
  • 3
    高速で回転しながら「地上に落下」...トルコの軍用輸送機「C-130」謎の墜落を捉えた「衝撃映像」が拡散
  • 4
    日本人には「当たり前」？ 外国人が富士山で目にした…
  • 5
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 6
    まるで老人...ロシア初の「AIヒト型ロボット」がお披…
  • 7
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 8
    【銘柄】オリエンタルランドが急落...日中対立が株価…
  • 9
    日本の「クマ問題」、ドイツの「問題クマ」比較...だ…
  • 10
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中