最新記事
人工知能

アメリカ大統領は誰？とAIに尋ねてみたら...

An Age of A.I. Hallucination

2024年8月22日（木）13時02分
スコット・ノーバー（スレート誌記者）
AIに作らせた「アメリカ大統領」の画像

筆者がミッドジャーニーで生成した「アメリカ大統領」の画像　SCOTT NOVER VIA MIDJOURNEYｰSLATE

＜人気の画像生成AIに指示すると、トランプの画像だらけになる理由と不吉な未来＞

アメリカの大統領は誰？　もちろんジョー・バイデンだが、ある人気AI（人工知能）アプリの答えは違う。

AIが幻覚を見る（つまり事実をでっち上げる）ことは周知の事実だが、大統領の名前のような単純な問いを間違うことは通常ない。オープンAIのチャットGPTに同じ質問をすると、正しい答えと短い経歴、ホワイトハウスのウェブサイトやウィキペディアへのリンクを教えてくれる。


一方、グーグルのジェミニは回答を断固拒否する。「現在、選挙や政治家に関する回答はお手伝いできません。可能な限り正確であるように訓練されていますが、間違えることもあります。選挙や政治を論じられるように機能を改善中ですが、代わりにグーグル検索をお試しください」

AIが選挙に影響を与えたり偽情報を広めたりする危険性を考えれば、それも理解できる。特に画像生成AIへの制限は、一般的なチャットボットより厳しい場合が多い。

それも当然だ。政治家のフェイク画像は大混乱を引き起こしかねない。最近もドナルド・トランプ前大統領と黒人有権者のディープフェイク画像が出回ったばかりだ。

実際、オープンAIの画像生成AIであるDALL-E（ダリ）に、バイデンとトランプの画像生成を指示したところ、同社の使用ポリシーを理由に拒否された。

同じ画像生成AIのミッドジャーニーにも同様のルールがある。候補者の画像生成を指示したら、エラーメッセージが出た。「申し訳ありません！　ミッドジャーニーコミュニティーは投票の結果、選挙期間中に『ドナルド・トランプ』と『ジョー・バイデン』を使用不可にしました」

問題解決は望み薄？

イギリスの非営利団体デジタル・ヘイト対策センターは3月上旬、ミッドジャーニーを含む画像生成AIは入院着姿のバイデン、逮捕されたトランプなど、政治的ディープフェイク画像を生成可能だとする報告書を発表した。その1週間後、同社はこの2人の画像を禁止し始めたと、AP通信は報じている。

だが4カ月近く後、ミッドジャーニーに米大統領の画像を指示したところ、トランプの画像が次々と生成された。16枚の画像のうち1枚はバラク・オバマ元大統領だったが、バイデンはなんとゼロ。この件について開発元にコメントを何度も求めたが、ついに返答はなかった。

次のページ制御不能の画像生成AI
あわせて読みたい
ニュース速報

ビジネス

米3月小売売上高1.4％増、約2年ぶり大幅増　関税
2025.04.17

ワールド

19日の米・イラン核協議、開催地がローマに変更　イ
2025.04.17

ビジネス

米3月の製造業生産0.3％上昇、伸び鈍化　関税措置
2025.04.17

ビジネス

カナダ中銀、金利据え置き　米関税で深刻な景気後退の
2025.04.17
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：トランプショック
特集：トランプショック
2025年4月22日号（4/15発売）

大規模関税発表の直後に90日間の猶予を宣言。世界経済を揺さぶるトランプの真意は？

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【クイズ】世界で最も「半導体の工場」が多い国どこ？ 1位は意外にも...！？
  • 2
    パニック発作の原因とは何か？...「あなたは病気ではない」
  • 3
    【クイズ】世界で2番目に「話者の多い言語」は？
  • 4
    あなたには「この印」ある？ 特定の世代は「腕に同じ…
  • 5
    【心が疲れたとき】メンタルが一瞬で “最…
  • 6
    紅茶をこよなく愛するイギリス人の僕がティーバッグ…
  • 7
    中国はアメリカとの貿易戦争に勝てない...理由はトラ…
  • 8
    NASAが監視する直径150メートル超えの「潜在的に危険…
  • 9
    あまりの近さにネット唖然...ハイイログマを「超至近…
  • 10
    間食はなぜ「ナッツ一択」なのか？...がん･心疾患･抜…
  • 1
    【心が疲れたとき】メンタルが一瞬で “最強” になる「超短い一言」
  • 2
    間食はなぜ「ナッツ一択」なのか？...がん･心疾患･抜け毛の予防にも役立つ可能性【最新研究】
  • 3
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止するための戦い...膨れ上がった「腐敗」の実態
  • 4
    クレオパトラの墓をついに発見？　発掘調査を率いた…
  • 5
    「ただ愛する男性と一緒にいたいだけ！」77歳になっ…
  • 6
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
  • 7
    コメ不足なのに｢減反｣をやめようとしない理由...政治…
  • 8
    あなたには「この印」ある？ 特定の世代は「腕に同じ…
  • 9
    中国はアメリカとの貿易戦争に勝てない...理由はトラ…
  • 10
    パニック発作の原因とは何か？...「あなたは病気では…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは？
  • 2
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは？
  • 3
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 4
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 5
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 6
    健康寿命を伸ばすカギは「人体最大の器官」にあった.…
  • 7
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 8
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 9
    【心が疲れたとき】メンタルが一瞬で “最…
  • 10
    テスラの没落が止まらない...株価は暴落、業績も行き…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中