日本の警察は、今年3月から防犯カメラやSNSの画像を顔認証システムで照合していた

・偏見や差別が固定化される危惧

警察が重点的に監視しているグループと、そうでないグループでは検挙数に差が出てくる。そして前回の予測捜査についての記事で紹介したように日本もアメリカも充分な根拠なく特定のグループを監視していることがわかっている。たとえば反戦活動家などの市民活動家も監視対象となっていた。

特定のグループを監視対象にし、そのグループでの検挙数が増え、顔認証データベースでの登録が増えれば（無罪や不起訴を含む）、さらに監視が強化され、優先的に照合をかけられるというフィードバック・ループが作られる。

・いたずらや捜査の攪乱に使われる可能性

なんらかの事件が起きた時に、過去の事件の報道写真から犯人の写真を取り込んで、SNSに「そういえば、あの事件の前に不審なヤツがいた」と書いてその写真を投稿すると今回の警察の顔認証システムに引っかかる可能性は高い。また「○○さんを事件現場の近くで見かけた」と実在する別人を名指しして過去の事件の犯人の写真を投稿することで、別人に警察の注意が向くように仕向けることもできるかもしれない。
ほとんどのSNSはメールアドレスのみで作ることができるので、こうしたいたずらや捜査攪乱が行われる可能性がある。

情報公開、検証、議論なしに拡大する顔認証システムへの懸念

警察が顔認証システムを利用した捜査を拡大することが予想され、そこに予測捜査も加わる可能性が高い。

・民間の防犯カメラを警察が一元管理し、顔認証する

すでに警視庁は非常時映像伝送システムと呼ばれるシステムを持っている。これは、警視庁がリアルタイムで交通機関など民間の監視カメラを一元管理し、顔認証システムで識別するシステムである。今後、連携する監視カメラがコンビニ・チェーンやマンション、ビルなど他の民間の監視および防犯カメラに拡大してゆく可能性がある。

コンビニで買い物をしていたら、突然警察官に任意同行を求められ、ついていったら顔認証システムの誤認だったとか、イベントなどに参加している最中に呼び出される事がないとは言えない。捜査の効率化は図れるかもしれないが、誤認によって顔が似ているだけの無関係な人の生活に支障をきたすリスクは増える。

・予測捜査との連携

予測捜査は顔認証システムと並ぶ新しい捜査手法として導入されている。過去の統計などから犯罪の発生場所や内容、犯人を予測するシステムである。アメリカでは広く導入が進んでおり、日本の警察でも導入している。くわしくは前回記事をご参照いただきたい。

予測捜査ツールには、必ずしも効果が確認できない、偏見と差別を助長する、プライバシーの侵害などさまざまな問題が指摘されており、アメリカでは禁止する地区や利用を中止する市も出てきている。予測捜査ツールを開発している企業や、採用している警察は効果を誇示するが、第三者機関によって効果が検証されているわけではない。感情や行動の識別機能を持った顔認証システムと組み合わせたシステムなども存在する。

予測捜査ツールで「潜在的な犯罪者」をリスト化し、顔認証システムで監視することが日常的に行われる可能性がある。問題は「潜在的な犯罪者」のリスト化に当たり、偏見や差別が含まれていることだ。予測捜査ツールのAIは警察のデータに含まれる偏りをそのまま学習してしまうため、その偏見や差別を残したまま判断をしてしまう。たとえばデモに参加したり、警察の監視対象となっている人物と同じ店の常連だったり、あるいは単に近所に住んでいたりするだけで「潜在的な犯罪者」に加えられることも起こり得る。なにかあるたびに警察の訪問を受けるようになれば周囲の見る目は変わってくる。「火のない所に煙はたたない」という目で見られるようになりかねない。

新しい技術を利用することのメリットもある。ただし、その前に充分な検証や情報公開そして議論が必要である。アメリカでは充分とは言えないが情報公開が進み、議論も行われている。たとえばニューヨーク市では市民の監視に用いている監視ツールの公開を義務化するPOST ACTが可決された。日本では顔認証システムと予測捜査に関する検証と情報公開はまだまだ不十分であり、議論以前の段階に留まっている。