CIA元諜報員が「生成AIはスパイ組織の夢のツール」と明言する理由

■誤情報　情報機関は誤情報（人をだます意図なく共有される虚偽または誤解を招く情報）を流布することで、社会の不安定化を図ることもある。これまでは信頼できる少数の工作員に頼ってきたが、生成AIなら無数のボット（自動プログラム）を通じて説得力のある噂や誤り、嘘をさまざまな言語で広めることができる。そうなれば真偽の識別が困難になり、専門家や政府、メディアへの警戒心や冷笑的態度が強まり、混乱した国民を操作しやすくなる。

■社会の不和　生成AIは人々の社会に対する不信感を高め、政府やメディアへの信頼を低下させる目的で、社会内部の異なる（あるいは競合する）派閥から発信される作り話や対立をあおる言説を広め、社会に不和の種をばらまくことができる。言うまでもなく、情報機関は常にこの種の工作を実行してきた。

「自由の息子たち」という秘密組織は1770年代、アメリカ独立革命を扇動することに成功している。彼らは植民地の人々にイギリスへの反乱を起こさせるため、ボストンでのイギリスの「残虐行為」に関する歪曲した話を広める秘密工作を行った。

「規制なし」は危険すぎる

チャットGPTのような生成AIは言葉によるサービスだ。これにAIが生成した「ディープフェイク」動画や画像、音声を組み合わせれば、コンテンツの説得力、誤解や幻滅を抱かせる力は格段に強化され、人々の現実認識や嘘と真実を見分ける能力の脅威となる。そうなれば個人、政府、政策、社会の全てが操作され、活力を奪われ、最後はバラバラに分解されかねない。

私たちは既に未来に生きている。ソーシャルメディアと初期タイプの生成AI、メディアコントロールを組み合わせた2つの秘密工作（1つはロシア、1つは中国によるもの）は、生成AIが全体主義体制下で情報機関の道具と化す悪夢の到来を想起させる。

■2016年アメリカ　私はその前年、ロシア情報機関が共和党の大統領予備選に立候補したドナルド・トランプを工作の標的に選び、選挙運動に協力している可能性をいち早く公表した。だが、ロシアが民主党の最有力候補ヒラリー・クリントンの足を引っ張り、トランプ当選を支援するために、史上最大規模の偽情報作戦をまんまと成功させたことを知ったのは、後になってからだった。

彼らはトランプへの投票を増やす目的で、BLM（ブラック・ライブズ・マター＝黒人の命は大事）運動や米退役軍人への不当な扱い、銃所持の権利に対する脅威などに関する偽情報を流した。そしてアメリカはトランプを大統領に選んだ。