コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

＜AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......＞

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚（hallucination）と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう（本人は気づいていないだろうが）。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ（自己承認欲求の充足も含む）が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

次のページ生成AIによって情報エコシステムは次の段階に移る
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

焦点：「氷雪経済」の成功例追え、中国がサービス投資
2026.02.22

ワールド

焦点：米中間選挙へ、民主党がキリスト教保守層にもア
2026.02.22

ワールド

トランプ米大統領、代替関税率を10％から15％に引
2026.02.22

ワールド

中国、米国産大豆追加購入の可能性低下も　関税違憲判
2026.02.21
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：ウクライナ戦争4年 苦境のロシア
特集：ウクライナ戦争4年 苦境のロシア
2026年2月24日号（2/17発売）

帰還兵の暴力、ドローンの攻撃、止まらないインフレ。国民は疲弊しプーチンの足元も揺らぐ

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    命は長し、働け女たち――88歳「働くばあさん」が説く高齢期の「4つの覚悟」
  • 2
    「#ジェームズ・ボンドを忘れろ」――MI6初の女性長官が掲げる「新しいスパイの戦い方」
  • 3
    「水道水」が筋トレの成果を左右する...私たちの体には濾過･吸収する力が備わっている
  • 4
    少女買春に加え、国家機密の横流しまで...アンドルー…
  • 5
    100万人が死傷、街には戦場帰りの元囚人兵...出口な…
  • 6
    カビが植物に感染するメカニズムに新発見、硬い表面…
  • 7
    ロシアに蔓延する「戦争疲れ」がプーチンの立場を揺…
  • 8
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
  • 9
    「窓の外を見てください」パイロットも思わず呼びか…
  • 10
    揺れるシベリア...戦費の穴埋めは国民に？ ロシア中…
  • 1
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より日本の｢100％就職率｣を選ぶ若者たち
  • 2
    命は長し、働け女たち――88歳「働くばあさん」が説く高齢期の「4つの覚悟」
  • 3
    なぜ「あと1レップ」が筋肉を壊すのか...「高速パワートレーニング」が失速する理由
  • 4
    【銘柄】マイクロソフトの株価が暴落...「AI懸念」で…
  • 5
    「ヒンメルならそうした」...コスプレイヤーが消火活…
  • 6
    「#ジェームズ・ボンドを忘れろ」――MI6初の女性長官…
  • 7
    海外（特に日本）移住したい中国人が増えている理由.…
  • 8
    「目のやり場に困る...」アカデミー会場を席巻したス…
  • 9
    オートミール中心の食事がメタボ解消の特効薬に
  • 10
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 1
    【クイズ】致死率50～75%...インドで感染拡大「ニパウイルス」の感染源となる動物は？
  • 2
    ウクライナ戦闘機「F-16」がロシア軍「シャヘド」を空中爆破...地上から撮影の「レア映像」を公開
  • 3
    高市積極財政にアメリカが慌てる理由
  • 4
    セーターが消えた冬 ── 暖かさの主戦場が｢インナー｣…
  • 5
    台湾侵攻「失敗」の大きすぎる代償
  • 6
    「最恐」恐竜T・レックスの定説を覆す新研究が
  • 7
    イースター島の先住民から資源を略奪、島を「生きた…
  • 8
    海上自衛隊が水中無人機（UUV）を導入　中国の海軍拡…
  • 9
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 10
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story