コラム

爆発する中国のAIパワー

2019年12月23日(月)17時15分

AIが大きな可能性を秘めたものであることは間違いないが、同時に大きな危険性をはらんだものであることを痛感させられる事件が最近起きた。それは東京大学のAIを専攻する特任准教授がツイッターに中国人を露骨に差別する内容を書きこんだことである。正確に言えば、それは彼が経営するベンチャー企業の求人において中国人を差別しているという内容のものであったが、現職の東京大学の教職員が差別を肯定する発言をしたことは大問題であり、しかるべき処分が下されるべきものだと思う。当該の准教授もいったん謝罪したが、同時にその発言が「AIの過学習」に基づくものだと言い訳した。私がAIの危険性を感じたのはこの言い訳である。

AI素人である私は当然のことながら「AIの過学習」が何を意味するのかはよくわからないが、この言い訳は十中八九ウソだと踏んでいる。仮にウソである場合、当該准教授は自らの差別と偏見をAIという一般人には近寄りがたい魔法の言葉によって正当化したということになる。AIなんて使っていない単なる占いや相性診断を「AI占い」とか「AI相性診断」と称して商品価値を高めようとする程度のことであれば社会に対する悪影響も限定的だが、AI専門家が単なる差別心理にすぎないものをAIの結論だと偽装するのは悪質である。今後「AIのお告げ」が神託のように悪用される危険性を意識させられた。

また仮に本当だとすると、AIが倫理や社会のルールに反する計算結果を出す危険性を示唆する。よく知られているところでは、アマゾンが人材採用にAIを利用していたが、AIが女性を差別していることに気づき、昨年AIの利用をやめた。アマゾンの担当者がAIに「女性を差別しろ」と命じておいたわけではなく、過去の技術職のほとんどが男性だったため、AIが男性が望ましいと学習してしまったからだという。

アマゾンの場合は、AIが差別していることに気がついて見切りをつけたのでまだよかった。東大特任准教授の場合には(仮に彼の言い訳が本当だとすれば)、AIが導出した結果が、差別してはいけないという倫理より優先されてしまっている。つまり、AIを使うのではなく、AIに使われてしまっている。日本の名だたる大企業の間で、AIを使ってはじき出した就活生の「内定辞退率予測」が売買されて問題化したのは記憶に新しい。内定の決定には使っていないと弁明している企業も多いが、あのようなものを買ったことからしてすでにAIに使われてしまっている証左であろう。

特任准教授の言い訳からくみ取るべき教訓を一行で表現すると、「AIという言葉に騙されてはいけないし、AIに騙されてもいけない」ということである。

2019123120200107issue_cover150.jpg
※画像をクリックすると
アマゾンに飛びます

2019年12月31日/2020年1月7日号(12月24日発売)は「ISSUES 2020」特集。米大統領選トランプ再選の可能性、「見えない」日本外交の処方箋、中国・インド経済の急成長の終焉など、12の論点から無秩序化する世界を読み解く年末の大合併号です。

プロフィール

丸川知雄

1964年生まれ。1987年東京大学経済学部経済学科卒業。2001年までアジア経済研究所で研究員。この間、1991~93年には中国社会学院工業経済研究所客員研究員として中国に駐在。2001年東京大学社会科学研究所助教授、2007年から教授。『現代中国経済』『チャイニーズ・ドリーム: 大衆資本主義が世界を変える』『現代中国の産業』など著書多数

あわせて読みたい
ニュース速報

ビジネス

豊田織機の非公開化報道、トヨタ「一部出資含め様々な

ビジネス

中国への融資終了に具体的措置を、米財務長官がアジア

ビジネス

ベッセント長官、日韓との生産的な貿易協議を歓迎 米

ワールド

アングル:バングラ繊維産業、国内リサイクル能力向上
あわせて読みたい
MAGAZINE
特集:独占取材 カンボジア国際詐欺
特集:独占取材 カンボジア国際詐欺
2025年4月29日号(4/22発売)

タイ・ミャンマーでの大摘発を経て焦点はカンボジアへ。政府と癒着した犯罪の巣窟に日本人の影

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    中国で「ネズミ人間」が増殖中...その驚きの正体とは? いずれ中国共産党を脅かす可能性も
  • 3
    トランプ政権の悪評が直撃、各国がアメリカへの渡航勧告を強化
  • 4
    健康寿命は延ばせる...認知症「14のリスク要因」とは…
  • 5
    アメリカ鉄鋼産業の復活へ...鍵はトランプ関税ではな…
  • 6
    関税ショックのベトナムすらアメリカ寄りに...南シナ…
  • 7
    ロケット弾直撃で次々に爆発、ロシア軍ヘリ4機が「破…
  • 8
    ロシア武器庫が爆発、巨大な火の玉が吹き上がる...ロ…
  • 9
    ビザ取消1300人超──アメリカで留学生の「粛清」進む
  • 10
    パニック発作の原因の多くは「ガス」だった...「ビタ…
  • 1
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 2
    「生はちみつ」と「純粋はちみつ」は何が違うのか?...「偽スーパーフード」に専門家が警鐘
  • 3
    「スケールが違う」天の川にそっくりな銀河、宇宙初期に発見される
  • 4
    【クイズ】「地球の肺」と呼ばれる場所はどこ?
  • 5
    女性職員を毎日「ランチに誘う」...90歳の男性ボラン…
  • 6
    教皇死去を喜ぶトランプ派議員「神の手が悪を打ち負…
  • 7
    『職場の「困った人」をうまく動かす心理術』は必ず…
  • 8
    自宅の天井から「謎の物体」が...「これは何?」と投…
  • 9
    「100歳まで食・酒を楽しもう」肝機能が復活! 脂肪…
  • 10
    トランプ政権はナチスと類似?――「独裁者はまず大学…
  • 1
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 2
    健康寿命を伸ばすカギは「人体最大の器官」にあった...糖尿病を予防し、がんと闘う効果にも期待が
  • 3
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 4
    【心が疲れたとき】メンタルが一瞬で “最…
  • 5
    中居正広は何をしたのか? 真相を知るためにできる…
  • 6
    間食はなぜ「ナッツ一択」なのか?...がん・心疾患・抜…
  • 7
    日本旅行が世界を魅了する本当の理由は「円安」では…
  • 8
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大…
  • 9
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止する…
  • 10
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story