最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか？

2017年8月7日（月）08時56分
遠藤誉（東京福祉大学国際交流センター長）

AIは、どのようにして「ユーザーの心の声」を「学習」したのか？

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット＋」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか？

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国　　言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

次のページ話題をそらす小冰
今、あなたにオススメ
ニュース速報

ワールド

豪サントス、ダーウィンＬＮＧプラント一時停止　設備
2026.03.24

ビジネス

中国の再生エネ株に投資家殺到、「石油ショック」で需
2026.03.24

ワールド

豪州、将来の鉱物供給危機回避で重要な役割＝ＩＥＡ事
2026.03.24

ワールド

フィリピン、原油高でインフレ率2桁の可能性も　成長
2026.03.24
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：BTS再始動
特集：BTS再始動
2026年3月31日号（3/24発売）

3年9カ月の空白を経て完全体でカムバック。世界が注目する「BTS2.0」の幕開け

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    レストラン店内で配膳ロボットが「制御不能」に...店員も「なすすべなし」の暴走モード
  • 2
    三笠宮彬子さまも出席...「銀河の夢か、現実逃避か」モナコ舞踏会に見る富と慈善
  • 3
    イランは空爆により核・ミサイル製造能力を「喪失」した──イスラエル首相
  • 4
    【クイズ】2年連続で「世界幸福度ランキング」で最下…
  • 5
    「胸元を強調しすぎ...」 米セレブ、「目のやり場に…
  • 6
    【銘柄】「三菱商事」の株価に高まる期待...ホルムズ…
  • 7
    中国の公衆衛生レベルはアメリカ並み...「ほぼ国民皆…
  • 8
    スウェーデン次期女王ヴィクトリア皇太子、陸軍訓練…
  • 9
    「買ったら高いじゃん？」アカデミー賞会場のゴミ箱…
  • 10
    「カメラの目の前」で起きた爆発の瞬間...取材中の記…
  • 1
    「ノーと言えるスペイン」の背景に国防意識...次期スペイン女王は空軍で訓練中、問われる「軍を知る君主」
  • 2
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え時の装いが話題――「ファッション外交」に注目
  • 3
    数時間以内に死に至ることも...若者の間で集団感染が発生し既に死者も、感染源は「ナイトクラブ」
  • 4
    温暖化で増えた？　サンマやサケ減少の裏で激増する…
  • 5
    メーガン妃、娘リリベット王女との「お手伝い姿」公…
  • 6
    第6回大会を終えて曲がり角に来たWBC
  • 7
    【衛星画像】イラン情勢緊迫、米強襲揚陸艦「トリポ…
  • 8
    【銘柄】「三菱商事」の株価に高まる期待...ホルムズ…
  • 9
    韓国製ミサイル天弓-II、イラン戦争で96%迎撃の衝撃 …
  • 10
    「マツダ・日産・スバル」が大ピンチ？...オーストラ…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 3
    メーガン妃、娘リリベット王女との新ショット公開...撮影はパパ
  • 4
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 5
    見事なカンフーを見せた中国ヒト型ロボットのからく…
  • 6
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 7
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 8
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 9
    「日本より、自分の国（フランス）を心配すれば？」…
  • 10
    日本の若者「韓国就職」憧れと現実のギャップ ── ビ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中