最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

今、あなたにオススメ
ニュース速報

ビジネス

再送-EQT、日本の不動産部門責任者にKJRM幹部

ビジネス

独プラント・設備受注、2月は前年比+8% 予想外の

ビジネス

イオン、米国産と国産のブレンド米を販売へ 10日ご

ワールド

中国、EU産ブランデーの反ダンピング調査を再延長
今、あなたにオススメ
MAGAZINE
特集:引きこもるアメリカ
特集:引きこもるアメリカ
2025年4月 8日号(4/ 1発売)

トランプ外交で見捨てられ、ロシアの攻撃リスクにさらされるヨーロッパは日本にとって他人事なのか?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 2
    8日の予定が286日間に...「長すぎた宇宙旅行」から2人無事帰還
  • 3
    中居正広は何をしたのか? 真相を知るためにできる唯一の方法
  • 4
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 5
    あまりにも似てる...『インディ・ジョーンズ』の舞台…
  • 6
    磯遊びでは「注意が必要」...6歳の少年が「思わぬ生…
  • 7
    ロシア空軍基地へのドローン攻撃で、ウクライナが「…
  • 8
    「隠れたブラックホール」を見つける新手法、天文学…
  • 9
    イラン領空近くで飛行を繰り返す米爆撃機...迫り来る…
  • 10
    【クイズ】アメリカの若者が「人生に求めるもの」ラ…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 2
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 3
    ロシア空軍基地へのドローン攻撃で、ウクライナが「最大の戦果」...巡航ミサイル96発を破壊
  • 4
    中居正広は何をしたのか? 真相を知るためにできる…
  • 5
    800年前のペルーのミイラに刻まれた精緻すぎるタトゥ…
  • 6
    ガムから有害物質が体内に取り込まれている...研究者…
  • 7
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 8
    一体なぜ、子供の遺骨に「肉を削がれた痕」が?...中…
  • 9
    「この巨大な線は何の影?」飛行機の窓から撮影され…
  • 10
    8日の予定が286日間に...「長すぎた宇宙旅行」から2…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは?
  • 2
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 3
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは?
  • 4
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 5
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 6
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 7
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 8
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中