コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIによって情報エコシステムは次の段階に移る

現在の情報エコシステムにおいてコンテンツの多くは人間が作っているため生産量や速度の制限がある。AIは人間が作ったコンテンツの中からお眼鏡にかなったものを選択して拡散しているにすぎない。それでも大手メディアの発信量と速度、ファクトチェックやリテラシーによる確認の量と速度を凌駕しているので、デマや陰謀論は後をたたずに拡散している。

生成AIがネットのコンテンツ生成に利用され始めた場合、その生産量と速度はもはや手が付けられない状態となる。すでに生成AIで作ったコンテンツのサイトが生まれ、そこにグーグルなどのアドテックの広告が掲載されている。情報エコシステムへの組み込みは始まっている。

生成AIによって大手メディアの発信量も増加するし、AIを利用すればファクトチェックも加速すると考える人もいるかもしれないが、そうはならないだろう。なぜなら前述のようにAIは間違うことがあるので人間が確認しなければならない。さらに真偽判定においてはAIよりも人間の方が正確という調査結果もある。

だから大手メディアの発信量は増えるだろうが、真偽判定を人間が行う以上、時間はかかる。さらに発信量が増えた分、確率的に誤報も増える（人間がチェックする以上、避けられない）。また、人間発注したコンテンツもライターや研究者、イラストレーターがひそかに生成AIを利用することで生成AIによるものが増加する。

その一方で広告目当てのコンテンツや陰謀論のコンテンツは間違っていても問題ない。現在のAIがもっとも得意とするところだ。その結果、情報エコシステムは生成AIが作った莫大なコンテンツであふれることになる。

取材力を持った生成AIによるスクープの連発

ベリング・キャットのエリオット・ヒギンズはトランプが収監され、脱獄するまでの画像を生成AIで作ってネットに流して話題となった。そこから数歩進んだ新しい情報エコシステムが生まれる可能性がある。

生成AIは「取材力」を持つことでさらに強力になれる。生成AIは人間の言語や画像、動画を理解できる。したがって人間向けのインタフェースを持つシステムや装置に接続すればそこから情報を入手できる。相手のシステムにこちらが生成AIであることを知らせる必要すらない。

たとえば衛星画像サービスにつなげて、ロシア軍の活動を監視することもできる。防犯カメラに接続すれば、犯罪の兆候を発見することもできる。犯罪発生予測も可能だ（もちろん、犯罪発生予測には多くの問題があるが、コンテンツとして需要はありそうだ）。天気予報なみに普及するかもしれない。投稿用のアプリを一般人に配布、衝撃映像を募集し、配信できるものを自動判別してアクセス量に応じた謝礼を送ることもできる。

人間にはとてもたちうちできない取材力と記事化能力を持つ生成AIでなければできない全地球的記事制作システムだ。テキストだけでなく、動画まで生成できるのも強みだ。

次のページ偽情報よりもメディアの偏りの問題の方が深刻？
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

トランプ氏、米軍制服組トップ解任　指導部の大規模刷
2025.02.22

ワールド

アングル：性的少数者がおびえるドイツ議会選、極右台
2025.02.22

ワールド

アングル：高評価なのに「仕事できない」と解雇、米Ｄ
2025.02.22

ビジネス

米国株式市場＝3指数大幅下落、さえない経済指標で売
2025.02.22
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：ウクライナが停戦する日
特集：ウクライナが停戦する日
2025年2月25日号（2/18発売）

ゼレンスキーとプーチンがトランプの圧力で妥協？　20万人以上が死んだ戦争が終わる条件は

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    口から入ったマイクロプラスチックの行く先は「脳」だった？...高濃度で含まれる「食べ物」に注意【最新研究】
  • 2
    人気も販売台数も凋落...クールなEVテスラ「オワコン化」の理由
  • 3
    がん細胞が正常に戻る「分子スイッチ」が発見される【最新研究】
  • 4
    1888年の未解決事件、ついに終焉か？ 「切り裂きジャ…
  • 5
    飛行中の航空機が空中で発火、大炎上...米テキサスの…
  • 6
    ソ連時代の「勝利の旗」掲げるロシア軍車両を次々爆…
  • 7
    私に「家」をくれたのは、この茶トラ猫でした
  • 8
    動かないのに筋力アップ？ 88歳医大名誉教授が語る「…
  • 9
    【クイズ】世界で1番マイクロプラスチックを「食べて…
  • 10
    ビタミンB1で疲労回復！疲れに効く3つの野菜＆腸活に…
  • 1
    口から入ったマイクロプラスチックの行く先は「脳」だった？...高濃度で含まれる「食べ物」に注意【最新研究】
  • 2
    がん細胞が正常に戻る「分子スイッチ」が発見される【最新研究】
  • 3
    戦場に「北朝鮮兵はもういない」とロシア国営テレビ...犠牲者急増で、増援部隊が到着予定と発言
  • 4
    人気も販売台数も凋落...クールなEVテスラ「オワコン…
  • 5
    動かないのに筋力アップ？ 88歳医大名誉教授が語る「…
  • 6
    朝1杯の「バターコーヒー」が老化を遅らせる...細胞…
  • 7
    7年後に迫る「小惑星の衝突を防げ」、中国が「地球防…
  • 8
    墜落して爆発、巨大な炎と黒煙が立ち上る衝撃シーン.…
  • 9
    ビタミンB1で疲労回復！疲れに効く3つの野菜＆腸活に…
  • 10
    「トランプ相互関税」の範囲が広すぎて滅茶苦茶...VA…
  • 1
    週刊文春は「訂正」を出す必要などなかった
  • 2
    中居正広は何をしたのか？　真相を知るためにできる唯一の方法
  • 3
    【一発アウト】税務署が「怪しい！」と思う通帳とは？
  • 4
    口から入ったマイクロプラスチックの行く先は「脳」…
  • 5
    「健康寿命」を延ばすのは「少食」と「皮下脂肪」だ…
  • 6
    1日大さじ1杯でOK！「細胞の老化」や「体重の増加」…
  • 7
    がん細胞が正常に戻る「分子スイッチ」が発見される…
  • 8
    戦場に「北朝鮮兵はもういない」とロシア国営テレビ.…
  • 9
    有害なティーバッグをどう見分けるか？...研究者のア…
  • 10
    世界初の研究：コーヒーは「飲む時間帯」で健康効果…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story