最新記事
核兵器

「AI核戦争」の悪夢を避けるために...問題は機械による意思決定プロセスへの介入

PREVENTING AI NUCLEAR ARMAGEDDON

2023年11月16日(木)13時40分
メリッサ・パーク(ICAN事務局長)
核兵器とAIの組み合わせは核戦争のリスクをさらに高めてしまう IG_ROYAL/ISTOCK

核兵器とAIの組み合わせは核戦争のリスクをさらに高めてしまう IG_ROYAL/ISTOCK

<各国政府はAIの安全性に関する取り組みを進めているが、核兵器への応用についての深刻な懸念が浮上している>

もはやSFの話ではない。核兵器システムにAI(人工知能)を導入しようとする競争が加速するなか、核戦争勃発のリスクも日に日に高まっている。

AIの安全な開発と運用に向けて、各国政府が腰を上げた点は明るい兆しだ。しかし核戦争のリスクを本気で軽減させたいのなら、世界の指導者たちはまず、この脅威の深刻さを認識する必要がある。

G7は10月末、AIに関するルール作りの枠組み「広島AIプロセス」における開発者向けの国際指針と行動規範に合意した。バイデン米大統領はAIの安全性に関する新基準を定める大統領令に署名。英政府も11月初めに世界初の「AI安全サミット」を主催した。

とはいえ、いずれのイニシアチブもAIの核兵器への応用がもたらすリスクに十分に対応できるとは言い難い。

核の歴史はニアミスの連続だ。1983年、ソ連の軍人スタニスラフ・ペトロフが、米軍の核ミサイルがソ連に向けて発射されたとの警告を受信した。即座に上司に報告すれば核による「報復」が避けられない場面だったが、彼はシステムの誤作動だと判断。実際、そのとおりだった。

もしもこのプロセスにAIが関わっていたら、ペトロフは同じ判断を下しただろうか(そもそも、同じ判断を下す選択肢があっただろうか)。

AIの進化に伴い、機械による意思決定プロセスは不透明さを増している。いわゆるAIの「ブラックボックス問題」である。その結果、AIの働きを監視しにくくなり、ましてや不正アクセスや誤作動の有無を判断するのは困難極まりない。単に発射の最終決定を人間が担うだけでは、こうしたリスクを十分に軽減することはできない。

また、核の危機に直面した指導者の意思決定プロセスはこれまでも極めて慌ただしかった。そこにAIが関与すれば、それが発射の判断ではなく探知や標的設定に限ったものであっても、人間が発射の可否を決める時間的猶予はさらに短くなる。指導者へのプレッシャーが強まれば、判断ミスや非合理的な選択をするリスクも高まる。

人工衛星などの情報探知システムにおけるAI活用も、さらなるリスクの高まりにつながる。これまで検知されにくかった弾道ミサイル搭載潜水艦などの核を隠しにくくなるため、核保有国は紛争の初期段階、つまり敵に既知の核システムを無力化されてしまう前に、全ての核を配備することになりかねない。

あわせて読みたい
ニュース速報

ワールド

英、米との貿易協議に期待 合意近いとビジネス貿易相

ワールド

トランプ氏、マスク氏は「素晴らしい」と擁護 いずれ

ワールド

韓国憲法裁、尹大統領の罷免決定 直ちに失職

ビジネス

先駆的な手法を一般化する使命感あり、必ず最後までや
あわせて読みたい
MAGAZINE
特集:引きこもるアメリカ
特集:引きこもるアメリカ
2025年4月 8日号(4/ 1発売)

トランプ外交で見捨てられ、ロシアの攻撃リスクにさらされるヨーロッパは日本にとって他人事なのか?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    5万年以上も前の人類最古の「物語の絵」...何が描かれていた?
  • 2
    「最後の1杯」は何時までならOKか?...コーヒーと睡眠の「正しい関係」【最新研究】
  • 3
    【クイズ】日本の輸出品で2番目に多いものは何?
  • 4
    アメリカで「最古の銃」発見...いったい誰が何のため…
  • 5
    中居正広は何をしたのか? 真相を知るためにできる…
  • 6
    得意げに発表した相互関税はトランプのオウンゴール…
  • 7
    「ネイティブ並み」は目指す必要なし? グローバル…
  • 8
    アメリカから言論の自由が消える...トランプ「思想狩…
  • 9
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 10
    テスラが陥った深刻な販売不振...積極プロモも空振り…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 2
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 3
    中居正広は何をしたのか? 真相を知るためにできる唯一の方法
  • 4
    ロシア空軍基地へのドローン攻撃で、ウクライナが「…
  • 5
    ガムから有害物質が体内に取り込まれている...研究者…
  • 6
    8日の予定が286日間に...「長すぎた宇宙旅行」から2…
  • 7
    磯遊びでは「注意が必要」...6歳の少年が「思わぬ生…
  • 8
    あまりにも似てる...『インディ・ジョーンズ』の舞台…
  • 9
    突然の痛風、原因は「贅沢」とは無縁の生活だった...…
  • 10
    なぜ「猛毒の魚」を大量に...アメリカ先住民がトゲの…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは?
  • 2
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは?
  • 3
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山ダムから有毒の水が流出...惨状伝える映像
  • 4
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 5
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 6
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 7
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 8
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアで…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中