AIはだませる？──サイバーセキュリティにAIを使う期待と不安

五分五分の確率で第三次世界大戦

しかし、ペトロフ中佐はおかしいと思った。なぜ米国は、たった五発しか撃たないのか。本当の奇襲は大規模でなくてはならない。ソ連を地上から抹殺しなくてはならない。ペトロフ中佐はレーダーの担当者に連絡を取った。ミサイルが本物ならレーダーに映るはずである。しかし、レーダーには何も映っていなかった。

彼は、確率は五分五分だと考えた。彼は上官に電話をする義務がある。しかし、彼がそうすれば、第三次世界大戦が始まる。彼は電話をかけ、「早期警戒システムが誤動作している」と上官に伝えた。

彼は正しかった。米国からソ連への攻撃はなかった。

雲の一番高いところに反射した日光が、ソ連の衛星システムに間違った警報を出させたことが後に分かった。人間が自動システムの間に入っていたことで、第三次世界大戦は起きなかったことになる。

ペトロフ中佐がいなかったら

ペトロフ中佐がいなかったらどうなっていただろうか。彼の代わりに人工知能（AI）のアルゴリズムが判断していたらどうなっていただろうか。アルゴリズムは躊躇せずに反撃の核ミサイルを発射させていたのではないか。

おそらく、AIの研究者は、それもまた深層学習で克服できるというだろう。しかし、人類の戦争のデータはそれほど多くない。学習すべきデータが小さすぎる。

もちろん、戦争をほとんどの人は望んでいない。しかし、愚かにも人間は意図的に戦争を始める生き物でもある。

アイザック・ニュートンは「私は天体の動きを計算することはできるが、人間の狂気を測定することはできない」と言ったという。愚かな人間が戦争を始める可能性、間違ったシステムが戦争を始める可能性、これらをAIの時代に追求するのはまだ難しいのではないだろうか。

まして、サイバー攻撃に関して言えば、核ミサイル攻撃よりもはるかに敷居が低くなっている。サイバー攻撃のためのクリックを躊躇せずに押してしまう人たちがたくさんいる。

発展するイスラエルのサイバー産業

常に紛争に巻き込まれる可能性を意識している国の一つがイスラエルである。イスラエルのテルアビブ大学は毎年6月にサイバーウィークという大きなイベントを開いている。2018年は、主催者発表では9000人以上の参加者、400人のスピーカーが集まったという。

テルアビブ大学で開かれたサイバーウィーク

厳しいセキュリティチェックの後、ぎっしり詰まった聴衆の前でベンヤミン・ネタニヤフ首相は、イスラエルのサイバーセキュリティ産業は大きく飛躍中だと述べた。2017年の輸出額は38億米ドル（約4180億円）、2017年の投資額8億1500万米ドル（約900億円）、サイバーセキュリティ企業の数420社、国際研究開発センターの数50だという数字を並べた。

そして、南部の都市ベエルシェバに建設中のサイバーセキュリティ複合施設についても自慢げに紹介した。有力大学として知られるベングリオン大学と駅を挟んで広がる広大な施設に研究開発のためのビルが建ち並び始めている。私たちがここを訪問したときは、三つのビルが建ち、さらに二つが建設中だった。