最新記事

ビッグデータ

「パナマ文書」解析の技術的側面

2016年4月12日(火)18時25分
大野圭一朗

テキストデータへの変換

 この記事によれば、画像の多くは紙の書類をスキャンしたものだったようで、そこから文字情報を引き出そうとする場合、OCRという技術が必要になります。OCRとは要するに画像から文字を認識して切り出す技術です。日本でもユーザーの多いEvernoteなどでも利用されている技術です。写真に写った飲み物のラベルの文字が文字列検索で引っかかることがあると思いますが、あの技術のことです。最近はラップトップと家庭用スキャナの組み合わせでも行うことができる、広く普及した技術です。ただし今回は画像の数が膨大なため、時間を短縮するために、商用クラウドコンピューティングサービス(要するに計算機の時間貸し屋さんです)であるAmazon Web ServiceのEC2を使ったようです。どのインスタンスタイプかまでは確認できませんでしたが、30台から40台のEC2インスタンスを用いて、ひたすら画像データを文字情報に変換する作業をまず行いました。

データのグラフ化

 OCRによるテキスト化を行うと、ひとまず計算機上での扱いは容易になります。極端な事を言えば、テキストで保存してある限り、それをエディタで開いて文字列検索することでも、ある程度は何が書いてあるかを読めるようになります。しかし詳細な調査には最終的にはスキャンされた書類や会計報告などを専門家が読み込む必要があり、人や企業のネットワークから、キーワード検索でさらに詳細を調べられるようにしなくてはなりません。それを構築するために用いられるのが全文検索エンジンと呼ばれるものです。実際に使われたものはApache Solrで、メタデータやテキストの切り出しにはTikaが使われました。これらを利用し、彼らはまずファイルの集合からメタデータを切り出しました。ここでいうメタデータとは、ファイルタイプやタイムスタンプなどで、これをインデックス化することにより大量のファイルがより検索しやすくなります。

 しかし、今回のデータにはおよそ215,000もの会社(おそらく多くがペーパーカンパニー)が含まれており、そこを流れるカネを分析するためにはもう一工夫が必要です。ある会社の会計報告や登記簿を読んでいる場合、その会社の関係者、そしてその会社に関連する他の企業などのつながりを見られるようになれば、カネの流れを把握するのに大いに役立ちます。もちろんこれは文章でも表現できます。例えば専門家は今回の文書を実際に読むことにより以下のような情報を得たとします:

・A社の現在の社長はx氏
・A社はB社の取締役であるY氏によって設立された
・Y氏は『A社』というキーワードが大量にヒットするメールをZ氏に頻繁に送っている
・αという住所にA社があり、B社の所在地はβである
・αとβはグランドケイマン島の、γビル内の同じフロアに存在する
・Z氏はγビルのオーナーである

 このレベルのつながりならば、ここから


 X氏とY氏にはA社の創業者とその後継者という繋がりがあり、B社はA社と何らかの繋がりがある。そして会社の登記には名前がないが、Z氏とA社にはY氏を介しておそらく何らかの関係性が存在する。そして両社の所在地から、これらは同一ブローカーが関与して設立されたペーパーカンパニーの可能性がある。そのブローカーはZ氏の可能性がある。


 というような推論が人間にも可能です。ところがこのような繋がりが数十万、数百万というレベルで存在するとどうでしょう。もはやその全体像を人間がこのように文章に書き下して一つづつ把握するのは不可能です。そのために彼らはデータのグラフ化を選択しました。

今、あなたにオススメ
ニュース速報

ビジネス

中国への融資終了に具体的措置を、米財務長官がアジア

ビジネス

ベッセント長官、日韓との生産的な貿易協議を歓迎 米

ワールド

アングル:バングラ繊維産業、国内リサイクル能力向上

ワールド

ガザ支援搬入認めるようイスラエル首相に要請=トラン
今、あなたにオススメ
MAGAZINE
特集:独占取材 カンボジア国際詐欺
特集:独占取材 カンボジア国際詐欺
2025年4月29日号(4/22発売)

タイ・ミャンマーでの大摘発を経て焦点はカンボジアへ。政府と癒着した犯罪の巣窟に日本人の影

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    中国で「ネズミ人間」が増殖中...その驚きの正体とは? いずれ中国共産党を脅かす可能性も
  • 3
    トランプ政権の悪評が直撃、各国がアメリカへの渡航勧告を強化
  • 4
    健康寿命は延ばせる...認知症「14のリスク要因」とは…
  • 5
    アメリカ鉄鋼産業の復活へ...鍵はトランプ関税ではな…
  • 6
    関税ショックのベトナムすらアメリカ寄りに...南シナ…
  • 7
    ロケット弾直撃で次々に爆発、ロシア軍ヘリ4機が「破…
  • 8
    ロシア武器庫が爆発、巨大な火の玉が吹き上がる...ロ…
  • 9
    ビザ取消1300人超──アメリカで留学生の「粛清」進む
  • 10
    パニック発作の原因の多くは「ガス」だった...「ビタ…
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    「生はちみつ」と「純粋はちみつ」は何が違うのか?...「偽スーパーフード」に専門家が警鐘
  • 3
    「スケールが違う」天の川にそっくりな銀河、宇宙初期に発見される
  • 4
    【クイズ】「地球の肺」と呼ばれる場所はどこ?
  • 5
    女性職員を毎日「ランチに誘う」...90歳の男性ボラン…
  • 6
    教皇死去を喜ぶトランプ派議員「神の手が悪を打ち負…
  • 7
    『職場の「困った人」をうまく動かす心理術』は必ず…
  • 8
    自宅の天井から「謎の物体」が...「これは何?」と投…
  • 9
    「100歳まで食・酒を楽しもう」肝機能が復活! 脂肪…
  • 10
    トランプ政権はナチスと類似?――「独裁者はまず大学…
  • 1
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 2
    健康寿命を伸ばすカギは「人体最大の器官」にあった...糖尿病を予防し、がんと闘う効果にも期待が
  • 3
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 4
    【心が疲れたとき】メンタルが一瞬で “最…
  • 5
    中居正広は何をしたのか? 真相を知るためにできる…
  • 6
    間食はなぜ「ナッツ一択」なのか?...がん・心疾患・抜…
  • 7
    日本旅行が世界を魅了する本当の理由は「円安」では…
  • 8
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大…
  • 9
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止する…
  • 10
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中