AIはだませる？──サイバーセキュリティにAIを使う期待と不安

サイバーセキュリティとAI

サイバーセキュリティにAIを使うというアイデアはすでにいろいろなところで構想され、導入されている。AIは膨大なデータの中から異常値（アノマリー）を探すのが得意だ。これは防衛に使える。もう少し高度になれば、コンピュータ・ウイルスやマルウェアを自動進化させるAIも出てくるだろう（もう出て来ているかもしれない）。つまり攻撃への応用である。フェイクニュースの生成とターゲティングにも使われるだろう。

人手をなるべく介さないで自動化するのがAI導入のメリットである。特に人口減少が見込まれる日本ではそれに期待する声が大きい。

しかし、軍事・安全保障への応用は、かなり慎重な配慮を要する。冷戦時代には「エスカレーション・ラダー（深刻化の梯子）」という考え方があった。国家間の意見の対立から全面戦争に至るまでの間にはたくさんの梯子の段があり、低レベルから高レベルへエスカレーションしないようにするのが米ソの指導者に求められていた。ソ連が新しい早期警戒システムを入れたことで、警戒態勢から一気に全面核戦争にエスカレートする恐れがあった。しかし、ペトロフ中佐がそれを止めた。

サイバーセキュリティにおけるエスカレーション・ラダーは、核戦争より短いかもしれない。自動化されたシステムが危機を一気にエスカレートさせるかもしれない。第三者同士を戦わせようとする悪者ハッカーの介入が戦争を引き起こすかもしれない。

新しい技術が出てくれば、こうした懸念はつきものである。自動運転の車が事故を起こすと議論されているのと同じである。しかし、交通事故と戦争では被害規模が異なる。

ニュートンがいう狂気を繰り返してきた人間の判断を否定しAIに任せるか、あるいは、人間の英知を信じてAIに人間の判断の余地を残すか。まだ結論を出すには早いだろう。

＃この原稿前半のエピソードは、以下の2冊の本で紹介されている。
Fred, Kaplan, Dark Territory: The Secret History of Cyber War, Simon & Schuster, 2017.
Paul Scharre, Army of None: Autonomous Weapons and the Future of War, W. W. Norton & Co., 2018.