最新記事

ビッグデータ

「パナマ文書」解析の技術的側面

2016年4月12日(火)18時25分
大野圭一朗

テキストデータへの変換

 この記事によれば、画像の多くは紙の書類をスキャンしたものだったようで、そこから文字情報を引き出そうとする場合、OCRという技術が必要になります。OCRとは要するに画像から文字を認識して切り出す技術です。日本でもユーザーの多いEvernoteなどでも利用されている技術です。写真に写った飲み物のラベルの文字が文字列検索で引っかかることがあると思いますが、あの技術のことです。最近はラップトップと家庭用スキャナの組み合わせでも行うことができる、広く普及した技術です。ただし今回は画像の数が膨大なため、時間を短縮するために、商用クラウドコンピューティングサービス(要するに計算機の時間貸し屋さんです)であるAmazon Web ServiceのEC2を使ったようです。どのインスタンスタイプかまでは確認できませんでしたが、30台から40台のEC2インスタンスを用いて、ひたすら画像データを文字情報に変換する作業をまず行いました。

データのグラフ化

 OCRによるテキスト化を行うと、ひとまず計算機上での扱いは容易になります。極端な事を言えば、テキストで保存してある限り、それをエディタで開いて文字列検索することでも、ある程度は何が書いてあるかを読めるようになります。しかし詳細な調査には最終的にはスキャンされた書類や会計報告などを専門家が読み込む必要があり、人や企業のネットワークから、キーワード検索でさらに詳細を調べられるようにしなくてはなりません。それを構築するために用いられるのが全文検索エンジンと呼ばれるものです。実際に使われたものはApache Solrで、メタデータやテキストの切り出しにはTikaが使われました。これらを利用し、彼らはまずファイルの集合からメタデータを切り出しました。ここでいうメタデータとは、ファイルタイプやタイムスタンプなどで、これをインデックス化することにより大量のファイルがより検索しやすくなります。

 しかし、今回のデータにはおよそ215,000もの会社(おそらく多くがペーパーカンパニー)が含まれており、そこを流れるカネを分析するためにはもう一工夫が必要です。ある会社の会計報告や登記簿を読んでいる場合、その会社の関係者、そしてその会社に関連する他の企業などのつながりを見られるようになれば、カネの流れを把握するのに大いに役立ちます。もちろんこれは文章でも表現できます。例えば専門家は今回の文書を実際に読むことにより以下のような情報を得たとします:

・A社の現在の社長はx氏
・A社はB社の取締役であるY氏によって設立された
・Y氏は『A社』というキーワードが大量にヒットするメールをZ氏に頻繁に送っている
・αという住所にA社があり、B社の所在地はβである
・αとβはグランドケイマン島の、γビル内の同じフロアに存在する
・Z氏はγビルのオーナーである

 このレベルのつながりならば、ここから


 X氏とY氏にはA社の創業者とその後継者という繋がりがあり、B社はA社と何らかの繋がりがある。そして会社の登記には名前がないが、Z氏とA社にはY氏を介しておそらく何らかの関係性が存在する。そして両社の所在地から、これらは同一ブローカーが関与して設立されたペーパーカンパニーの可能性がある。そのブローカーはZ氏の可能性がある。


 というような推論が人間にも可能です。ところがこのような繋がりが数十万、数百万というレベルで存在するとどうでしょう。もはやその全体像を人間がこのように文章に書き下して一つづつ把握するのは不可能です。そのために彼らはデータのグラフ化を選択しました。

今、あなたにオススメ
ニュース速報

ワールド

米FDA、医薬品審査の迅速化で担当職員に賞与支給へ

ワールド

米カンザス州、トランスジェンダー住民の運転免許や出

ビジネス

中国、元高抑制へドル買い促す 外貨リスク準備金を実

ワールド

アジア時間の原油先物は小幅安、米・イラン協議継続で
今、あなたにオススメ
MAGAZINE
特集:日本人が知らない AI金融の最前線
特集:日本人が知らない AI金融の最前線
2026年3月 3日号(2/25発売)

フィンテックの進化と普及で、金融はもっと高速に、もっとカジュアルに

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    見事なカンフーを見せた中国ヒト型ロボットのからくりとリスク
  • 2
    村瀬心椛は「トップでなければおかしい」...スノボの謎判定に「怒りの鉄拳」、木俣椋真の1980には「ぼやき」も
  • 3
    少女買春に加え、国家機密の横流しまで...アンドルーの大スキャンダルを招いた「女王の寵愛」とは
  • 4
    戦術は進化しても戦局が動かない地獄──ロシア・ウク…
  • 5
    住宅の4~5割が空き家になる地域も......今後30年で…
  • 6
    中国で今まで発見されたことがないような恐竜の化石…
  • 7
    「まるで別人...」ジョニー・デップの激変ぶりにネッ…
  • 8
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 9
    【和平後こそリスク】ウクライナで米露が狙う停戦「…
  • 10
    「3列目なのにガガ様が見えない...」観客の視界を遮…
  • 1
    アルコールは血糖値を下げる...「脳と血管を守る」医師がすすめる意外な健康習慣
  • 2
    命は長し、働け女たち――88歳「働くばあさん」が説く高齢期の「4つの覚悟」
  • 3
    「水道水」が筋トレの成果を左右する...私たちの体には濾過・吸収する力が備わっている
  • 4
    村瀬心椛は「トップでなければおかしい」...スノボの…
  • 5
    「ヘル・コリア」から日本へ7万人 ── 大企業の高給より…
  • 6
    少女買春に加え、国家機密の横流しまで...アンドルー…
  • 7
    見事なカンフーを見せた中国ヒト型ロボットのからく…
  • 8
    「#ジェームズ・ボンドを忘れろ」――MI6初の女性長官…
  • 9
    カビが植物に感染するメカニズムに新発見、硬い表面…
  • 10
    海外(特に日本)移住したい中国人が増えている理由.…
  • 1
    【クイズ】致死率50~75%...インドで感染拡大「ニパウイルス」の感染源となる動物は?
  • 2
    ウクライナ戦闘機「F-16」がロシア軍「シャヘド」を空中爆破...地上から撮影の「レア映像」を公開
  • 3
    高市積極財政にアメリカが慌てる理由
  • 4
    台湾侵攻「失敗」の大きすぎる代償
  • 5
    「最恐」恐竜T・レックスの定説を覆す新研究が
  • 6
    イースター島の先住民から資源を略奪、島を「生きた…
  • 7
    「ヘル・コリア」から日本へ7万人 ── 大企業の高給より…
  • 8
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 9
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 10
    命は長し、働け女たち――88歳「働くばあさん」が説く…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中