最新記事
核兵器

「AI核戦争」の悪夢を避けるために...問題は機械による意思決定プロセスへの介入

PREVENTING AI NUCLEAR ARMAGEDDON

2023年11月16日(木)13時40分
メリッサ・パーク(ICAN事務局長)
核兵器とAIの組み合わせは核戦争のリスクをさらに高めてしまう IG_ROYAL/ISTOCK

核兵器とAIの組み合わせは核戦争のリスクをさらに高めてしまう IG_ROYAL/ISTOCK

<各国政府はAIの安全性に関する取り組みを進めているが、核兵器への応用についての深刻な懸念が浮上している>

もはやSFの話ではない。核兵器システムにAI(人工知能)を導入しようとする競争が加速するなか、核戦争勃発のリスクも日に日に高まっている。

AIの安全な開発と運用に向けて、各国政府が腰を上げた点は明るい兆しだ。しかし核戦争のリスクを本気で軽減させたいのなら、世界の指導者たちはまず、この脅威の深刻さを認識する必要がある。

G7は10月末、AIに関するルール作りの枠組み「広島AIプロセス」における開発者向けの国際指針と行動規範に合意した。バイデン米大統領はAIの安全性に関する新基準を定める大統領令に署名。英政府も11月初めに世界初の「AI安全サミット」を主催した。

とはいえ、いずれのイニシアチブもAIの核兵器への応用がもたらすリスクに十分に対応できるとは言い難い。

核の歴史はニアミスの連続だ。1983年、ソ連の軍人スタニスラフ・ペトロフが、米軍の核ミサイルがソ連に向けて発射されたとの警告を受信した。即座に上司に報告すれば核による「報復」が避けられない場面だったが、彼はシステムの誤作動だと判断。実際、そのとおりだった。

もしもこのプロセスにAIが関わっていたら、ペトロフは同じ判断を下しただろうか(そもそも、同じ判断を下す選択肢があっただろうか)。

AIの進化に伴い、機械による意思決定プロセスは不透明さを増している。いわゆるAIの「ブラックボックス問題」である。その結果、AIの働きを監視しにくくなり、ましてや不正アクセスや誤作動の有無を判断するのは困難極まりない。単に発射の最終決定を人間が担うだけでは、こうしたリスクを十分に軽減することはできない。

また、核の危機に直面した指導者の意思決定プロセスはこれまでも極めて慌ただしかった。そこにAIが関与すれば、それが発射の判断ではなく探知や標的設定に限ったものであっても、人間が発射の可否を決める時間的猶予はさらに短くなる。指導者へのプレッシャーが強まれば、判断ミスや非合理的な選択をするリスクも高まる。

人工衛星などの情報探知システムにおけるAI活用も、さらなるリスクの高まりにつながる。これまで検知されにくかった弾道ミサイル搭載潜水艦などの核を隠しにくくなるため、核保有国は紛争の初期段階、つまり敵に既知の核システムを無力化されてしまう前に、全ての核を配備することになりかねない。

あわせて読みたい
ニュース速報

ワールド

米中が24日会合、貿易摩擦緩和目指し=トランプ氏

ビジネス

米3月耐久財受注9.2%増、予想上回る 民間航空機

ワールド

トランプ氏、ロのキーウ攻撃を非難 「ウラジミール、

ビジネス

米関税措置、独経済にも重大リスク=独連銀総裁
あわせて読みたい
MAGAZINE
特集:独占取材 カンボジア国際詐欺
特集:独占取材 カンボジア国際詐欺
2025年4月29日号(4/22発売)

タイ・ミャンマーでの大摘発を経て焦点はカンボジアへ。政府と癒着した犯罪の巣窟に日本人の影

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    健康寿命は延ばせる...認知症「14のリスク要因」とは?【最新研究】
  • 2
    日本の10代女子の多くが「子どもは欲しくない」と考えるのはなぜか
  • 3
    【クイズ】「地球の肺」と呼ばれる場所はどこ?
  • 4
    トランプ政権はナチスと類似?――「独裁者はまず大学…
  • 5
    トランプ政権の悪評が直撃、各国がアメリカへの渡航…
  • 6
    教皇死去を喜ぶトランプ派議員「神の手が悪を打ち負…
  • 7
    「地球外生命体の最強証拠」? 惑星K2-18bで発見「生…
  • 8
    謎に包まれた7世紀の古戦場...正確な場所を突き止め…
  • 9
    「スケールが違う」天の川にそっくりな銀河、宇宙初…
  • 10
    【クイズ】世界で最もヒットした「日本のアニメ映画…
  • 1
    「生はちみつ」と「純粋はちみつ」は何が違うのか?...「偽スーパーフード」に専門家が警鐘
  • 2
    しゃがんだ瞬間...「えっ全部見えてる?」ジムで遭遇した「透けレギンス」投稿にネット騒然
  • 3
    「スケールが違う」天の川にそっくりな銀河、宇宙初期に発見される
  • 4
    【クイズ】「地球の肺」と呼ばれる場所はどこ?
  • 5
    女性職員を毎日「ランチに誘う」...90歳の男性ボラン…
  • 6
    教皇死去を喜ぶトランプ派議員「神の手が悪を打ち負…
  • 7
    『職場の「困った人」をうまく動かす心理術』は必ず…
  • 8
    【クイズ】売上高が世界1位の「半導体ベンダー」はど…
  • 9
    自宅の天井から「謎の物体」が...「これは何?」と投…
  • 10
    「100歳まで食・酒を楽しもう」肝機能が復活! 脂肪…
  • 1
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 2
    健康寿命を伸ばすカギは「人体最大の器官」にあった...糖尿病を予防し、がんと闘う効果にも期待が
  • 3
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 4
    【心が疲れたとき】メンタルが一瞬で “最…
  • 5
    中居正広は何をしたのか? 真相を知るためにできる…
  • 6
    間食はなぜ「ナッツ一択」なのか?...がん・心疾患・抜…
  • 7
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大…
  • 8
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止する…
  • 9
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
  • 10
    クレオパトラの墓をついに発見? 発掘調査を率いた…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中