コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

＜AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......＞

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚（hallucination）と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう（本人は気づいていないだろうが）。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ（自己承認欲求の充足も含む）が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

次のページ生成AIによって情報エコシステムは次の段階に移る
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

中国で「南京大虐殺」の追悼式典、習主席は出席せず
2025.12.13

ワールド

トランプ氏、次期ＦＲＢ議長にウォーシュ氏かハセット
2025.12.13

ビジネス

アングル：トランプ関税が生んだ新潮流、中国企業がベ
2025.12.13

ワールド

アングル：米国などからトップ研究者誘致へ、カナダが
2025.12.13
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：ジョン・レノン暗殺の真実
特集：ジョン・レノン暗殺の真実
2025年12月16日号（12/ 9発売）

45年前、「20世紀のアイコン」に銃弾を浴びせた男が日本人ジャーナリストに刑務所で語った動機とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    デンマーク国防情報局、初めて米国を「安全保障上の脅威」と明記
  • 2
    「前を閉めてくれ...」F1観戦モデルの「超密着コーデ」が物議...SNSで賛否続出
  • 3
    現役・東大院生！ 中国出身の芸人「いぜん」は、なぜ「日本のお笑い」に挑むのか？
  • 4
    【銘柄】資生堂が巨額赤字に転落...その要因と今後の…
  • 5
    世界最大の都市ランキング...1位だった「東京」が3位…
  • 6
    首や手足、胴を切断...ツタンカーメンのミイラ調査開…
  • 7
    「体が資本」を企業文化に──100年企業・尾崎建設が挑…
  • 8
    高市首相の「台湾有事」発言、経済への本当の影響度.…
  • 9
    【クイズ】「100名の最も偉大な英国人」に唯一選ばれ…
  • 10
    中国人爆買いが転機、今後は「売り手化」のリスク...…
  • 1
    日本の「クマ問題」、ドイツの「問題クマ」比較...だから日本では解決が遠い
  • 2
    【銘柄】オリエンタルランドが急落...日中対立が株価に与える影響と、サンリオ自社株買いの狙い
  • 3
    【衛星画像】南西諸島の日米新軍事拠点　中国の進出を睨み建設急ピッチ
  • 4
    デンマーク国防情報局、初めて米国を「安全保障上の…
  • 5
    日本人には「当たり前」？ 外国人が富士山で目にした…
  • 6
    キャサリン妃を睨む「嫉妬の目」の主はメーガン妃...…
  • 7
    【クイズ】「100名の最も偉大な英国人」に唯一選ばれ…
  • 8
    中国軍機の「レーダー照射」は敵対的と、元イタリア…
  • 9
    健康長寿の鍵は「慢性炎症」にある...「免疫の掃除」…
  • 10
    人手不足で広がり始めた、非正規から正規雇用へのキ…
  • 1
    東京がニューヨークを上回り「世界最大の経済都市」に...日本からは、もう1都市圏がトップ10入り
  • 2
    高速で回転しながら「地上に落下」...トルコの軍用輸送機「C-130」謎の墜落を捉えた「衝撃映像」が拡散
  • 3
    日本人には「当たり前」？ 外国人が富士山で目にした「信じられない」光景、海外で大きな話題に
  • 4
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 5
    【銘柄】オリエンタルランドが急落...日中対立が株価…
  • 6
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 7
    日本の「クマ問題」、ドイツの「問題クマ」比較...だ…
  • 8
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
  • 9
    インド国産戦闘機に一体何が？　ドバイ航空ショーで…
  • 10
    ポルノ依存症になるメカニズムが判明！　絶対やって…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story