コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

アングル：米レポ市場、年末の資金調達不安が後退　Ｆ
2025.12.18

ワールド

米、台湾への武器売却承認　ハイマースなど過去最大の
2025.12.18

ビジネス

今回会合での日銀利上げの可能性、高いと考えている＝
2025.12.18

ワールド

中国、「ベネズエラへの一方的圧力に反対」　外相が電
2025.12.18
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：教養としてのBL入門
特集：教養としてのBL入門
2025年12月23日号（12/16発売）

実写ドラマのヒットで高まるBL（ボーイズラブ）人気。長きにわたるその歴史と深い背景をひもとく

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    日本がゲームチェンジャーの高出力レーザー兵器を艦載、海上での実戦試験へ
  • 2
    人口減少が止まらない中国で、政府が少子化対策の切り札として「あるもの」に課税
  • 3
    「勇気ある選択」をと、IMFも警告...中国、輸出入ともに拡大する「持続可能な」貿易促進へ
  • 4
    空中でバラバラに...ロシア軍の大型輸送機「An-22」…
  • 5
    【実話】学校の管理教育を批判し、生徒のため校則を…
  • 6
    「最低だ」「ひど過ぎる」...マクドナルドが公開した…
  • 7
    自国で好き勝手していた「元独裁者」の哀れすぎる末…
  • 8
    身に覚えのない妊娠？ 10代の少女、みるみる膨らむお…
  • 9
    ミトコンドリア刷新で細胞が若返る可能性...老化関連…
  • 10
    【銘柄】「日の丸造船」復権へ...国策で関連銘柄が軒…
  • 1
    日本がゲームチェンジャーの高出力レーザー兵器を艦載、海上での実戦試験へ
  • 2
    人口減少が止まらない中国で、政府が少子化対策の切り札として「あるもの」に課税
  • 3
    【衛星画像】南西諸島の日米新軍事拠点　中国の進出を睨み建設急ピッチ
  • 4
    「勇気ある選択」をと、IMFも警告...中国、輸出入と…
  • 5
    デンマーク国防情報局、初めて米国を「安全保障上の…
  • 6
    【実話】学校の管理教育を批判し、生徒のため校則を…
  • 7
    ミトコンドリア刷新で細胞が若返る可能性...老化関連…
  • 8
    【銘柄】資生堂が巨額赤字に転落...その要因と今後の…
  • 9
    【クイズ】「100名の最も偉大な英国人」に唯一選ばれ…
  • 10
    自国で好き勝手していた「元独裁者」の哀れすぎる末…
  • 1
    日本がゲームチェンジャーの高出力レーザー兵器を艦載、海上での実戦試験へ
  • 2
    人口減少が止まらない中国で、政府が少子化対策の切り札として「あるもの」に課税
  • 3
    高速で回転しながら「地上に落下」...トルコの軍用輸送機「C-130」謎の墜落を捉えた「衝撃映像」が拡散
  • 4
    日本人には「当たり前」？ 外国人が富士山で目にした…
  • 5
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 6
    【銘柄】オリエンタルランドが急落...日中対立が株価…
  • 7
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 8
    日本の「クマ問題」、ドイツの「問題クマ」比較...だ…
  • 9
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
  • 10
    東京がニューヨークを上回り「世界最大の経済都市」…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story