コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

＜AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......＞

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚（hallucination）と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう（本人は気づいていないだろうが）。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ（自己承認欲求の充足も含む）が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

次のページ生成AIによって情報エコシステムは次の段階に移る
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

アングル：変わる消費、百貨店が適応模索　インバウン
2025.07.11

ビジネス

世界株式指標、来年半ばまでに約5％上昇へ＝シティグ
2025.07.11

ビジネス

良品計画、25年8月期の営業益予想を700億円へ上
2025.07.11

ビジネス

再送-ＳＢＩ新生銀行、東京証券取引所への再上場を申
2025.07.11
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：大森元貴「言葉の力」
特集：大森元貴「言葉の力」
2025年7月15日号（7/ 8発売）

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「弟ができた！」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 2
    シャーロット王女の「ロイヤル･ボス」ぶりが話題に...「曾祖母エリザベス女王の生き写し」
  • 3
    トランプ関税と財政の無茶ぶりに投資家もうんざり、「強いドルは終わった」
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    アメリカを「好きな国・嫌いな国」ランキング...日本…
  • 6
    アメリカの保守派はどうして温暖化理論を信じないの…
  • 7
    名古屋が中国からのフェンタニル密輸の中継拠点に？…
  • 8
    完璧な「節約ディズニーランド」...3歳の娘の夢を「…
  • 9
    トランプはプーチンを見限った?――ウクライナに一転パ…
  • 10
    【クイズ】日本から密輸？...鎮痛剤「フェンタニル」…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか？
  • 2
    「弟ができた！」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    日本企業の「夢の電池」技術を中国スパイが流出...APB「乗っ取り」騒動、日本に欠けていたものは？
  • 4
    後ろの川に...婚約成立シーンを記録したカップルの幸…
  • 5
    シャーロット王女の「ロイヤル･ボス」ぶりが話題に..…
  • 6
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 7
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 8
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 9
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 10
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは？
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に？...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story