アメリカ大統領は誰？とAIに尋ねてみたら...

筆者がミッドジャーニーで生成した「アメリカ大統領」の画像　SCOTT NOVER VIA MIDJOURNEYｰSLATE

＜人気の画像生成AIに指示すると、トランプの画像だらけになる理由と不吉な未来＞

アメリカの大統領は誰？　もちろんジョー・バイデンだが、ある人気AI（人工知能）アプリの答えは違う。

AIが幻覚を見る（つまり事実をでっち上げる）ことは周知の事実だが、大統領の名前のような単純な問いを間違うことは通常ない。オープンAIのチャットGPTに同じ質問をすると、正しい答えと短い経歴、ホワイトハウスのウェブサイトやウィキペディアへのリンクを教えてくれる。

一方、グーグルのジェミニは回答を断固拒否する。「現在、選挙や政治家に関する回答はお手伝いできません。可能な限り正確であるように訓練されていますが、間違えることもあります。選挙や政治を論じられるように機能を改善中ですが、代わりにグーグル検索をお試しください」

AIが選挙に影響を与えたり偽情報を広めたりする危険性を考えれば、それも理解できる。特に画像生成AIへの制限は、一般的なチャットボットより厳しい場合が多い。

それも当然だ。政治家のフェイク画像は大混乱を引き起こしかねない。最近もドナルド・トランプ前大統領と黒人有権者のディープフェイク画像が出回ったばかりだ。

実際、オープンAIの画像生成AIであるDALL-E（ダリ）に、バイデンとトランプの画像生成を指示したところ、同社の使用ポリシーを理由に拒否された。

同じ画像生成AIのミッドジャーニーにも同様のルールがある。候補者の画像生成を指示したら、エラーメッセージが出た。「申し訳ありません！　ミッドジャーニーコミュニティーは投票の結果、選挙期間中に『ドナルド・トランプ』と『ジョー・バイデン』を使用不可にしました」

問題解決は望み薄？

イギリスの非営利団体デジタル・ヘイト対策センターは3月上旬、ミッドジャーニーを含む画像生成AIは入院着姿のバイデン、逮捕されたトランプなど、政治的ディープフェイク画像を生成可能だとする報告書を発表した。その1週間後、同社はこの2人の画像を禁止し始めたと、AP通信は報じている。

だが4カ月近く後、ミッドジャーニーに米大統領の画像を指示したところ、トランプの画像が次々と生成された。16枚の画像のうち1枚はバラク・オバマ元大統領だったが、バイデンはなんとゼロ。この件について開発元にコメントを何度も求めたが、ついに返答はなかった。