2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

インフォカリプスが進行することによって、制度や政府に対する信頼が低下し、社会は不安定になる。その結果、陰謀論や極右、あるいは白人至上主義を信じた人々の過激な行動が発生しやすくなる。2021年のアメリカ連邦議事堂襲撃事件、2022年のドイツのクーデター未遂事件、2023年のブラジルの連邦議事堂等襲撃事件は序章でしかない。

また、選挙への影響も甚大だ。すでに世界各国の選挙でデマや偽情報が飛び交うようになっており、先の事件が起きた国々では選挙に陰謀論などを信奉する候補者が登場、当選している。

さらにAI支援デジタル影響工作は通常のAI利用において起こる致命的な問題を克服していることも見逃せない。AIはまちがえることもあるし、倫理的に許容できない判断をすることもある。通常は人間が確認して補正しなければならない。しかし、デジタル影響工作に用いる限りにおいては、これらは許容される。多くのデジタル影響工作の目的は、分断と混乱を引き起こすことなのだから問題にならないのだ。

誤りと倫理的課題への対処が不要というのは既存のメディアに対して圧倒的に有利である。メディア業界では急速にAIの利用が進んでいる。たとえばAP通信は2014年に企業の決算報告書を自動生成し始め、1年でわずか300社から4,000社に取材範囲を拡大している。自動生成記事は人間の記事よりも誤りが少なく、休む必要がない。ただし、とんでもない間違いをしでかすこともあるので人間のチェックが不可欠となっている。

AI支援デジタル影響工作によって生み出させる動画や記事に比べると、確認の工程が必要な一般メディアの記事はコストも時間も余分にかかってしまうのだ。ファクトチェックはさらに時間がかかるため、AI支援デジタル影響工作に対してファクトチェックで対抗するのは、バケツで海の水をすくえば海は干上がると信じるようなものだ。

現状のデジタル影響工作でも対処が難しいのに、AI支援デジタル影響工作でより本物らしいコンテンツが大量生産されるようになることは本格的なインフォカリプス時代の到来を招くだろう。

これから起こること

当面起こるのは、自動生成コンテンツの急増である。

・AI支援デジタル影響工作ツールによって生み出されたディープフェイクがYouTubeなどの動画サイトにあふれる。政治家や俳優などの著名人を登場させる動画、あるいは知名度の高いメディア（BBCやCNN、NYTなど）を模倣、利用したものが多くなる。また、事件やイベントなどを捏造した動画も多数出回るだろう。

・一見まっとうに見えるが、AI支援デジタル影響工作ツールによって生成されたコンテンツだけでできているニュースサイトやまとめサイトが増加する。さまざまなニュースをまとめて記事にするAIはすでに実用化されおり、まっとうなニュースの要約と陰謀論などを混在させて信頼させやすくするサイトを作れる。そして、サイト同士で相互に参照し合うことによって信憑性を高めるメディア・ミラージュ（蜃気楼）も増加する。一般的なメディア・リテラシーは複数の情報源で確認することを推奨しているのでこのメディア・ミラージュは効果がある。

・人間になりすましたAIボットがSNSにまぎれこんで、投稿や応答をおこなう。投稿にあたっては上記のサイトや動画を参照するようになり、主張の根拠に利用することでメディア・ミラージュ効果を高められる。

さらにその次に起こるのは、次のようなことだ。