- HOME
- コラム
- デジタル権威主義とネット世論操作
- 我々の世界はSFよりもSF......生成AIがス…
我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock
<AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......>
生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。
その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚(hallucination)と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。
すでに人類はAIが管理する情報エコシステムに生きている
AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。
社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう(本人は気づいていないだろうが)。
SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。
SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ(自己承認欲求の充足も含む)が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。
こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。
-
外資系顧客向けシステムエンジニア/システムインテグレータ・ソフトハウス
株式会社リファルケ
- 東京都
- 年収450万円~1,260万円
- 正社員
-
東京/経理 買掛金等/世界トップクラスの包装資材&機械の外資系メーカー 残業10h・年休125日
シールドエアージャパン合同会社
- 東京都
- 年収525万円~630万円
- 正社員
-
週3在宅勤務/人事労務担当・リーダー候補 外資系企業の給与計算・社会保険/フレックス/年休124日
永峰・三島コンサルティング
- 東京都
- 年収400万円~700万円
- 正社員
-
土日祝休/外資系オフィス内カフェ・ケータリングの運営スタッフ 年収322万/年休120日
グローブシップ・ソデクソ・コーポレートサービス株式会社
- 東京都
- 年収322万円~350万円
- 正社員