コラム

ビッグデータ統計は、中立や客観性を保証せず、しばしば偏りを生む

2021年10月26日(火)16時59分

研究サプライチェーンの問題

AI、統計、計算社会学などで大量のデータを利用する研究は研究サプライチェーンと無縁ではいられない。研究サプライチェーンは、研究者がサプライチェーンを支える人々の意図に沿った行動を取るように誘導し、意図に沿わない場合はサプライを中止する。

AIの研究者自身は純粋にAIを研究しているかもしれないが、資金や施設を提供する側には経済的便益や軍事利用、政治利用などの意図がある。その意図に沿った研究には資金や施設が提供され、そうではないものには提供されない。結果として研究サプライチェーンの意向に沿った研究者だけが残る。ほとんどの人は好きな研究を好きなだけする自己資産を持っているわけではないので、ほとんどの研究分野に研究サプライチェーンの問題は存在する。多くの国や企業がしのぎを削っているビッグデータの分野ではよりわかりやすい形で現れる。

ケイト・クロフォードは、AIの社会的影響を考える際には、AIを支える権力を把握する必要があるとして、AIを構成する原材料、電力、データなどあらゆるものを調査し、それらが差別的に安価なコスト、安価な労働力、人権を侵害する形でのデータ入手、政府の支援(つまり税金)、軍や諜報機関からデータや支援に支えられていることを明らかにしている。安価な電力を提供してもらうために、グーグルなどは多額の資金を費やしてロビイスト活動にいそしんでいる。現在AIを支えている組織が好ましいと感じて支援する研究者のAI研究が進むという研究サプライチェーンの意向に縛られた世界ができている。

程度の差こそあれ、同じ問題は統計や計算社会学にも起こる。世界の多くの国では政権与党や為政者による国内向けのネット世論操作が行われており、SNSはその影響を受けている。また、SNS運営企業は自社の利益確保のためのコンテンツ管理方針とアルゴリズムを持っており、それによってSNSデータは歪められる。研究の原材料であるデータは汚染されているのだ。

特に気になるのは、これらが自覚なく行われている可能性だ。当たり前に自分や周囲と同じ視点や価値観のみでデータを分類・解釈し(たとえば調査対象者などの視点や価値観による異なる分類・解釈には思い至らず)、当たり前に利用している偏りのあるデータを利用し、当たり前に同じ基準で選ばれた研究サプライチェーンを支える側の意向に沿った同僚に囲まれていたりする。

たとえば、顔認識ソフトのテストのベンチマークとされる「Faces in the Wild」というデータセットでは、男性が70%、白人が80%だった(Forbes)。当然、このデータでは白人男性以外の精度を確認することは難しい。与えられたデータや研究チームの構成などの環境を疑いなく受け入れてしまうと研究サプライチェーンの罠に陥る危険がある。

研究者のみなさんには自覚的であってほしいものだが......

本稿の内容について、「そこまで考える必要があるのか?」と感じる方もいると思う。しかし、データと解釈の問題に関してはSNSデータに調整を行ったり、SNSデータを使わない他の方法で代替したり、複数の方法を組み合わせることで問題を回避することが可能だ。それを行わないのは手軽に大量のデータを使えるというSNSデータのメリットが減ってしまうからだ。『Big Crisis Data』(Castillo, Carlos、Big Crisis Data、2016年、Cambridge University Press)では「街灯の下で鍵を探す」という寓話が紹介されている。

寓話はこういう話だ。夜にある男が街灯の下で鍵を探していた。通りすがりの人が手伝ったが、いっこうに見つからない。「どこで鍵を落としたんですか?」と訊ねたところ男は離れた暗がりを指さし、「あそこで落としたのですが、暗くて見えないので明るいここで探しています」と答えた。

SNSなら従来に比べてはるかに容易に大量のデータを利用できるが、万能ではない。「街灯の下で鍵を探す」ことにならないように注意が必要であると同書は戒めている。

SNSデータの活用が広がった時期に刊行された『Twitter A Digital Socioscope』を見ると、ツイッターは世界規模で社会に関する大量の包括的なデータを簡単に入手できる素晴らしいツールであると随所に書かれていて、「街灯の下で鍵を探す」危険性を感じさせる。

この世界で研究活動を行うことは、研究サプライチェーンの最終工程に飛び込むことである。そのことに自覚的であることは研究を中立的、客観的にする助けになる。自分自身がおかれた社会的文脈を理解し、自分と異なる文脈の人々とチームを組み、データの内容を生い立ちから理解していかないと、自覚なしに研究サプライチェーンの意向に沿ったアウトプットを出してしまいやすくなる。

しかし、研究者には自覚的であってほしい、というのは私の願いにすぎないし、正直おすすめできない。AI、統計、計算社会学を研究する方々の多くは、研究サプライチェーンのまっただ中にいる人であり、同じ立場の人々に共有される成果をあげていった方が認められやすいだろう。当たり前と思っていることに疑義を唱えることにはリスクがある。ただ、自覚せずに研究サプライチェーンの罠にはまる人が増えれば増えるほど、社会には「特定の人々」(ケイト・クロフォード風に言うと権力を持った層)に都合のよい大量のデータから得られた「科学的事実」と、それに基づく仕組みが生まれてゆくことになる。私は「特定の人々」ではないので嫌だと思うが、「特定の人々」にとっては好ましいことだろう。本稿が研究サプライチェーンから産み出される成果を受けとる側の人々にとって参考になれば幸いである。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

中国への融資終了に具体的措置を、米財務長官がアジア

ビジネス

ベッセント長官、日韓との生産的な貿易協議を歓迎 米

ワールド

アングル:バングラ繊維産業、国内リサイクル能力向上

ワールド

ガザ支援搬入認めるようイスラエル首相に要請=トラン
あわせて読みたい
MAGAZINE
特集:独占取材 カンボジア国際詐欺
特集:独占取材 カンボジア国際詐欺
2025年4月29日号(4/22発売)

タイ・ミャンマーでの大摘発を経て焦点はカンボジアへ。政府と癒着した犯罪の巣窟に日本人の影

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    中国で「ネズミ人間」が増殖中...その驚きの正体とは? いずれ中国共産党を脅かす可能性も
  • 3
    トランプ政権の悪評が直撃、各国がアメリカへの渡航勧告を強化
  • 4
    健康寿命は延ばせる...認知症「14のリスク要因」とは…
  • 5
    アメリカ鉄鋼産業の復活へ...鍵はトランプ関税ではな…
  • 6
    関税ショックのベトナムすらアメリカ寄りに...南シナ…
  • 7
    ロケット弾直撃で次々に爆発、ロシア軍ヘリ4機が「破…
  • 8
    ロシア武器庫が爆発、巨大な火の玉が吹き上がる...ロ…
  • 9
    ビザ取消1300人超──アメリカで留学生の「粛清」進む
  • 10
    パニック発作の原因の多くは「ガス」だった...「ビタ…
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    「生はちみつ」と「純粋はちみつ」は何が違うのか?...「偽スーパーフード」に専門家が警鐘
  • 3
    「スケールが違う」天の川にそっくりな銀河、宇宙初期に発見される
  • 4
    【クイズ】「地球の肺」と呼ばれる場所はどこ?
  • 5
    女性職員を毎日「ランチに誘う」...90歳の男性ボラン…
  • 6
    教皇死去を喜ぶトランプ派議員「神の手が悪を打ち負…
  • 7
    『職場の「困った人」をうまく動かす心理術』は必ず…
  • 8
    自宅の天井から「謎の物体」が...「これは何?」と投…
  • 9
    「100歳まで食・酒を楽しもう」肝機能が復活! 脂肪…
  • 10
    トランプ政権はナチスと類似?――「独裁者はまず大学…
  • 1
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 2
    健康寿命を伸ばすカギは「人体最大の器官」にあった...糖尿病を予防し、がんと闘う効果にも期待が
  • 3
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 4
    【心が疲れたとき】メンタルが一瞬で “最…
  • 5
    中居正広は何をしたのか? 真相を知るためにできる…
  • 6
    間食はなぜ「ナッツ一択」なのか?...がん・心疾患・抜…
  • 7
    日本旅行が世界を魅了する本当の理由は「円安」では…
  • 8
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大…
  • 9
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止する…
  • 10
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story