コラム

一田和樹 デジタル権威主義とネット世論操作

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日（金）15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

＜AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......＞

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚（hallucination）と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう（本人は気づいていないだろうが）。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ（自己承認欲求の充足も含む）が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

次のページ生成AIによって情報エコシステムは次の段階に移る
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

中国、フェンタニル巡る米の圧力に「断固対抗」＝王外
2025.03.07

ワールド

原油先物、週間で4カ月半ぶり下落率に　トランプ関税
2025.03.07

ビジネス

クシュタール、米当局の買収承認得るための道筋をセブ
2025.03.07

ビジネス

アングル：全米で広がる反マスク行動　「＃テスラたた
2025.03.07
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：進化し続ける天才ピアニスト 角野隼斗
特集：進化し続ける天才ピアニスト 角野隼斗
2025年3月11日号（3/ 4発売）

ジャンルと時空を超えて世界を熱狂させる新時代ピアニストの「軌跡」を追う

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 2
    「コメが消えた」の大間違い...「買い占め」ではない、コメ不足の本当の原因とは？
  • 3
    113年間、科学者とネコ好きを悩ませた「茶トラ猫の謎」が最新研究で明らかに
  • 4
    一世帯5000ドルの「DOGE還付金」は金持ち優遇？　年…
  • 5
    強まる警戒感、アメリカ経済「急失速」の正しい読み…
  • 6
    著名投資家ウォーレン・バフェット、関税は「戦争行…
  • 7
    イーロン・マスクの急所を突け！最大ダメージを与え…
  • 8
    定住人口ベースでは分からない、東京23区のリアルな…
  • 9
    テスラ大炎上...戻らぬオーナー「悲劇の理由」
  • 10
    34年の下積みの末、アカデミー賞にも...「ハリウッド…
  • 1
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 2
    テスラ離れが急加速...世界中のオーナーが「見限る」ワケ
  • 3
    イーロン・マスクへの反発から、DOGEで働く匿名の天才技術者たちの身元を暴露する「Doxxing」が始まった
  • 4
    アメリカで牛肉さらに値上がりか...原因はトランプ政…
  • 5
    ニンジンが糖尿病の「予防と治療」に効果ある可能性…
  • 6
    「浅い」主張ばかり...伊藤詩織の映画『Black Box Di…
  • 7
    イーロン・マスクの急所を突け！最大ダメージを与え…
  • 8
    「コメが消えた」の大間違い...「買い占め」ではない…
  • 9
    「絶対に太る！」7つの食事習慣、 なぜダイエットに…
  • 10
    ボブ・ディランは不潔で嫌な奴、シャラメの演技は笑…
  • 1
    テスラ離れが急加速...世界中のオーナーが「見限る」ワケ
  • 2
    【一発アウト】税務署が「怪しい！」と思う通帳とは？
  • 3
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 4
    口から入ったマイクロプラスチックの行く先は「脳」…
  • 5
    「健康寿命」を延ばすのは「少食」と「皮下脂肪」だ…
  • 6
    がん細胞が正常に戻る「分子スイッチ」が発見される…
  • 7
    戦場に「北朝鮮兵はもういない」とロシア国営テレビ.…
  • 8
    人気も販売台数も凋落...クールなEVテスラ「オワコン…
  • 9
    細胞を若返らせるカギが発見される...日本の研究チー…
  • 10
    イーロン・マスクへの反発から、DOGEで働く匿名の天…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story