CIA元諜報員が「生成AIはスパイ組織の夢のツール」と明言する理由

世論を動かすことが簡単に

■偽情報　偽情報（ディスインフォメーション）の語源は、ソ連の独裁者ヨシフ・スターリンが1950年代に展開した「ディズインフォルマツィア」戦術で、受け手を誤解させるために嘘を流布することをいう。

情報機関は伝統的に、自らが広めたい説を裏付ける（ように見える）作り話や噂を広めることで、ターゲットとなる人々の意見や主張を変えようとしてきた。

例えば53年、CIAはイギリスの情報機関と協力して、イランのモハンマド・モサデク首相を失脚させ、親欧米的なモハマド・レザ・パーレビ国王を権力の座に就けるべく、激しい宣伝工作を展開した。おかげでCIAは、ごくわずかなコストで、モサデクの退任を求める数千人のデモ隊を出現させることができた。

生成AIは、その数千倍の影響を及ぼせるだろう。ターゲットとする社会で話されているさまざまな方言や、民族や階級に特有の表現や論調に合わせて文章をリアルタイムにアレンジすれば、より説得力のあるメッセージを繰り出すことができる。

ターゲットの特性に合わせたチャットボット（自動会話プログラム）を作って、陰謀論を説得力を持って広め、特定の人たちを誤解させることもできるだろう。同じ意見や主張も、いくつもの表現方法で世の中にあふれ返させることができれば、あたかも社会の幅広い層が同じ意見を抱いているという錯覚を生み出すことができる。

例えば、生成AIを使った偽情報作戦は、次のようなものがあり得る。数千人の一般市民のツイートやコメントを装って、アメリカがウクライナで、ロシア軍関係者への空爆を計画していたという説を広める。これはアメリカとロシアの間で戦争が起こるリスクを高めるとともに、「ウクライナ侵攻は自衛のためだった」というロシアの主張の信憑性を高める。あるいは、日本の自衛隊が、21世紀版の従軍慰安婦を組織する秘密交渉を進めているという作り話を広めることもできる。

この工作が成功すれば、日米の敵対国が恩恵を受け、日米両政府の弱体化につながる論争が巻き起こるだろう。両国が最終的に嘘を暴いたとしても、時間の浪費、不確実性、不信、不和など何らかのダメージは残る。政策が変わる可能性もある。生成AIを使ったこの種の攻撃は、過去の偽情報作戦とは比較にならないほど強力なものになりそうだ。