コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

ミャンマー地震の死者1000人超に、タイの崩壊ビル
2025.03.29

ビジネス

中国・ＥＵの通商トップが会談、公平な競争条件を協議
2025.03.29

ワールド

焦点：大混乱に陥る米国の漁業、トランプ政権が割当量
2025.03.29

ワールド

トランプ氏、相互関税巡り交渉用意　医薬品への関税も
2025.03.29
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：まだ世界が知らない 小さなSDGs
特集：まだ世界が知らない 小さなSDGs
2025年4月 1日号（3/25発売）

トランプの「逆風」をはね返す企業の努力が地球を救う

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ？
  • 2
    現地人は下層労働者、給料も7分の1以下...友好国ニジェールからも追放される中国人
  • 3
    一体なぜ、子供の遺骨に「肉を削がれた痕」が？...中国・河南省で見つかった「異常な」埋葬文化
  • 4
    なぜ「猛毒の魚」を大量に...アメリカ先住民がトゲの…
  • 5
    なぜANAは、手荷物カウンターの待ち時間を最大50分か…
  • 6
    不屈のウクライナ、失ったクルスクの代わりにベルゴ…
  • 7
    突然の痛風、原因は「贅沢」とは無縁の生活だった...…
  • 8
    アルコール依存症を克服して「人生がカラフルなこと…
  • 9
    最悪失明...目の健康を脅かす「2型糖尿病」が若い世…
  • 10
    「この巨大な線は何の影？」飛行機の窓から撮影され…
  • 1
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山ダムから有毒の水が流出...惨状伝える映像
  • 2
    テスラの没落が止まらない...株価は暴落、業績も行き詰った「時代遅れ企業」の行く末は？【アニメで解説】
  • 3
    「低炭水化物ダイエット」で豆類はNG...体重が増えない「よい炭水化物」とは？
  • 4
    「テスラ離れ」止まらず...「放火」続発のなか、手放…
  • 5
    【独占】テスラ株急落で大口投資家が本誌に激白「取…
  • 6
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 7
    800年前のペルーのミイラに刻まれた精緻すぎるタトゥ…
  • 8
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大…
  • 9
    大谷登場でざわつく報道陣...山本由伸の会見で大谷翔…
  • 10
    「さようなら、テスラ...」オーナーが次々に「売り飛…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは？
  • 2
    テスラ離れが急加速...世界中のオーナーが「見限る」ワケ
  • 3
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 4
    「さようなら、テスラ...」オーナーが次々に「売り飛…
  • 5
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 6
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 7
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 8
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 9
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 10
    テスラの没落が止まらない...株価は暴落、業績も行き…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story