コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

＜AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......＞

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚（hallucination）と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう（本人は気づいていないだろうが）。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ（自己承認欲求の充足も含む）が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

次のページ生成AIによって情報エコシステムは次の段階に移る
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

ネットフリックス、業績見通し強気　広告付きサービス
2025.04.18

ビジネス

カナダの米株購入、2月は過去最高　大型ハイテク・金
2025.04.18

ビジネス

米ＦＲＢ、ストレステスト見直しへ　自己資本比率の算
2025.04.18

ビジネス

全国コアＣＰＩ、3月は＋3.2％に加速　食料品がさ
2025.04.18
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：トランプショック
特集：トランプショック
2025年4月22日号（4/15発売）

大規模関税発表の直後に90日間の猶予を宣言。世界経済を揺さぶるトランプの真意は？

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【クイズ】世界で最も「半導体の工場」が多い国どこ？ 1位は意外にも...！？
  • 2
    【渡航注意】今のアメリカでうっかり捕まれば、裁判もなく中米の監禁センターに送られ、間違いとわかっても帰還は望めない
  • 3
    米経済への悪影響も大きい「トランプ関税」...なぜ、アメリカ国内では批判が盛り上がらないのか？
  • 4
    【クイズ】売上高が世界1位の「半導体ベンダー」はど…
  • 5
    紅茶をこよなく愛するイギリス人の僕がティーバッグ…
  • 6
    ノーベル賞作家のハン・ガン氏が３回読んだ美学者の…
  • 7
    あなたには「この印」ある？ 特定の世代は「腕に同じ…
  • 8
    トランプ関税 90日後の世界──不透明な中でも見えてき…
  • 9
    関税を擁護していたくせに...トランプの太鼓持ち・米…
  • 10
    金沢の「尹奉吉記念館」問題を考える
  • 1
    間食はなぜ「ナッツ一択」なのか？...がん･心疾患･抜け毛の予防にも役立つ可能性【最新研究】
  • 2
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止するための戦い...膨れ上がった「腐敗」の実態
  • 3
    【クイズ】世界で最も「半導体の工場」が多い国どこ？ 1位は意外にも...！？
  • 4
    【心が疲れたとき】メンタルが一瞬で “最…
  • 5
    クレオパトラの墓をついに発見？　発掘調査を率いた…
  • 6
    あなたには「この印」ある？ 特定の世代は「腕に同じ…
  • 7
    パニック発作の原因とは何か？...「あなたは病気では…
  • 8
    中国はアメリカとの貿易戦争に勝てない...理由はトラ…
  • 9
    動揺を見せない習近平...貿易戦争の準備ができている…
  • 10
    「世界で最も嫌われている国」ランキングを発表...日…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは？
  • 2
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは？
  • 3
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 4
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 5
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 6
    健康寿命を伸ばすカギは「人体最大の器官」にあった.…
  • 7
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 8
    【心が疲れたとき】メンタルが一瞬で “最…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    「低炭水化物ダイエット」で豆類はNG...体重が増えな…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story