コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

イスラエルがガザ空爆、48時間で120人殺害　パレ
2024.11.24

ワールド

大統領への「殺し屋雇った」、フィリピン副大統領発言
2024.11.24

ワールド

米農務長官にロリンズ氏、保守系シンクタンク所長
2024.11.24

ワールド

ＣＯＰ２９、年3000億ドルの途上国支援で合意　不
2024.11.24
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：超解説 トランプ2.0
特集：超解説 トランプ2.0
2024年11月26日号（11/19発売）

電光石火の閣僚人事で世界に先制パンチ。第2次トランプ政権で次に起きること

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「1年後の体力がまったく変わる」日常生活を自然に筋トレに変える7つのヒント
  • 2
    寿命が延びる、3つのシンプルな習慣
  • 3
    「このまま全員死ぬんだ...」巨大な部品が外されたまま飛行機が離陸体勢に...窓から女性が撮影した映像にネット震撼
  • 4
    北朝鮮は、ロシアに派遣した兵士の「生還を望んでい…
  • 5
    「ダイエット成功」3つの戦略...「食事内容」ではな…
  • 6
    日本人はホームレスをどう見ているのか？ ルポに対す…
  • 7
    ロシア西部「弾薬庫」への攻撃で起きたのは、戦争が…
  • 8
    「何も見えない」...大雨の日に飛行機を着陸させる「…
  • 9
    クルスク州のロシア軍司令部をウクライナがミサイル…
  • 10
    ロシア兵がウクライナ「ATACMS」ミサイルの直撃を受…
  • 1
    朝食で老化が早まる可能性...研究者が「超加工食品」に警鐘【最新研究】
  • 2
    寿命が延びる、3つのシンプルな習慣
  • 3
    「1年後の体力がまったく変わる」日常生活を自然に筋トレに変える7つのヒント
  • 4
    自分は「純粋な韓国人」と信じていた女性が、DNA検査…
  • 5
    「会見拒否」で自滅する松本人志を吉本興業が「切り…
  • 6
    日本人はホームレスをどう見ているのか？ ルポに対す…
  • 7
    北朝鮮は、ロシアに派遣した兵士の「生還を望んでい…
  • 8
    Netflix「打ち切り病」の闇...効率が命、ファンの熱…
  • 9
    北朝鮮兵が「下品なビデオ」を見ている...ロシア軍参…
  • 10
    メーガン妃が「輝きを失った瞬間」が話題に...その時…
  • 1
    朝食で老化が早まる可能性...研究者が「超加工食品」に警鐘【最新研究】
  • 2
    北朝鮮兵が「下品なビデオ」を見ている...ロシア軍参加で「ネットの自由」を得た兵士が見ていた動画とは？
  • 3
    寿命が延びる、3つのシンプルな習慣
  • 4
    外来種の巨大ビルマニシキヘビが、シカを捕食...大き…
  • 5
    朝鮮戦争に従軍のアメリカ人が写した「75年前の韓国…
  • 6
    「1年後の体力がまったく変わる」日常生活を自然に筋…
  • 7
    自分は「純粋な韓国人」と信じていた女性が、DNA検査…
  • 8
    北朝鮮兵が味方のロシア兵に発砲して2人死亡!?　ウク…
  • 9
    「会見拒否」で自滅する松本人志を吉本興業が「切り…
  • 10
    足跡が見つかることさえ珍しい...「超希少」だが「大…
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story