「政府に都合の良い回答ばかり...」中国向けiPhoneにアップルが搭載しようとしている「ゆがんだ生成AI」の実態

つまり新疆ウイグル自治区やチベット、香港、台湾など、中国政府にとってデリケートなトピックについては検閲がかかるということだ。実際、同法案は、生成AIツールを導入する場合は、当局による「安全性評価」を義務付ける（これまでのところ、CACがゴーサインを出した生成AIツールは、百度の文心一言を含む約40種類とされる）。

当然ながら、中国政府のお墨付きを得たアプリに「間違い」はない。米政府の海外放送ボイス・オブ・アメリカの報道によると、1989年（天安門事件があった年だ）に中国で起きたことを尋ねると、文心一言は「関連情報なし」と答えるという。

新疆についての質問には、中国政府のプロパガンダをそのまま答える。香港の民主化運動について聞くと、「話題を変える」ことをユーザーに促し、チャットウィンドウを閉じてしまうという。

アップルが文心一言あるいは中国企業製の生成AIを採用すれば、中国政府の権威主義的なデジタルガバナンスを正当化し、中国のAI政策と技術を世界標準化する試みを加速させる恐れがある。

とはいえ、こうした中国のポリシーに最初に屈した世界的なブランドはアップルではない。サムスン電子は今年1月、中国市場向けの新型スマートフォン「ギャラクシーS24」に、文心一言が搭載されていることを発表した。

中国国外のＡＩにも影響

一方、オープンAIに莫大な投資をしているマイクロソフトは、チャットGPTを組み込んだ生成AIツールを早々に発表して、中国のツールとは大きく異なる生成AI経験を提供するかに見えた。

ところが程なくして、ウイグル人に対する人権侵害に関する質問にマイクロソフトの生成AIツールがおかしな回答をすることや、中国政府のプロパガンダと人権専門家や国連機関の見解とを同等に扱っていることが指摘されるようになった。

果たしてデータセットに問題があったのか、AIモデルのパラメーターに問題があったのかは分からない。だが、こうした事例は、中国の情報統制が、中国国外で使われる生成AIにも影響を及ぼしている可能性を示している。