最新記事

AI戦争

AI兵器vs AI兵器の戦争は人知を超える(キッシンジャー&エリック・シュミット)

MACHINES DON'T BLINK

2021年11月24日(水)19時10分
ヘンリー・キッシンジャー(元米国務長官)、エリック・シュミット(グーグル元CEO)、ダニエル・ハッテンロッカー(マサチューセッツ工科大学〔MIT〕学部長)

どこまでを機械に委ね、それに伴うリスクと結果をどこまで受け入れるかについては、国によって許容範囲が異なるだろう。しかし主要国は危機が訪れる前に、こうした進化のもたらす戦略的・原理的・道徳的な影響についての対話を始めるべきだ。

危機が起きてからでは取り返しがつかない。こうしたリスクを限定する国際的な努力が欠かせない。

その際にはAIのダイナミックな性質も考慮しなければならない。ひとたび現実世界に放たれれば、AIを駆使したサイバー兵器は当初の想定をはるかに超えた適応と学習を重ねる可能性がある。こうした兵器の能力が開発者の意図を超えて変化していけば、戦闘の抑止や拡大に関する従来の計算は成り立たない。

それ故、AIが実行できる活動の範囲は、設計段階でも実戦配備の段階でも事前に設定し、人間がAIを監視し、おかしな行動を始めたらシステムを停止あるいは修正できるようにしておく必要がある。

想定外の壊滅的な事態を避けるためには、そうした制御機能を敵も味方も備えておく必要がある。

AIやサイバー兵器の能力を具体的にどこまで制限するかは難しい。こうした兵器の拡散を阻止するのも難しい。

大国が開発し、使用した能力は、たやすくテロリストや犯罪者の手に渡り得る。また核兵器を持たず、通常兵器の戦力も限られている小国でさえ、最先端のAIやサイバー兵器に積極投資すれば等身大以上の影響力を持てる。

国家(軍隊)が非致死的なタスクをAIに(場合によってはAIを運用する民間企業に)委ねる動きは止められない。例えばサイバー空間への侵入を検知し、阻止する防衛機能などだ。

人間の監督と介入は必須

デジタル化し、高度にネットワーク化された社会の「攻撃対象領域」は広すぎて、人間のオペレーターだけでは対応できない。

人々の暮らしがどんどんオンラインにシフトし、経済のデジタル化も続く今の時代には、たった1人の悪者でも、AIサイバー兵器を駆使すれば世の中を大混乱させることができる。国家も企業も、そして個人も、そのような事態を防ぐために投資すべきだ。

安全を守る最も極端な方法はネットワークを遮断し、システムをオフラインにすることだ。国家にとってはそれが究極の防御かもしれない。

しかし、そこまで極端な措置を取れないなら、サイバー攻撃への防御もAIに委ねるしかない。なにしろサイバースペースは広大で、そこで実行し得る行動パターンはほとんど無限にある。それに対処できる有効な防御システムを構築できるのは、ごく一部の国だけだろう。

もっと厄介なのは、AIで自律的に動き、かつ殺傷能力を持つ兵器システムだ。ひとたび作動すると、人間の介入なしに標的を選択し、攻撃できるシステムなどが想定されるが、ここでも人間による監視とタイムリーな介入が不可欠だ。

今、あなたにオススメ
ニュース速報

ワールド

脅迫で判事を警察保護下に、ルペン氏有罪裁判 大統領

ビジネス

貿易分断で世界成長抑制とインフレ高進の恐れ=シュナ

ビジネス

テスラの中国生産車、3月販売は前年比11.5%減 

ビジネス

訂正(発表者側の申し出)-ユニクロ、3月国内既存店
今、あなたにオススメ
MAGAZINE
特集:引きこもるアメリカ
特集:引きこもるアメリカ
2025年4月 8日号(4/ 1発売)

トランプ外交で見捨てられ、ロシアの攻撃リスクにさらされるヨーロッパは日本にとって他人事なのか?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 2
    8日の予定が286日間に...「長すぎた宇宙旅行」から2人無事帰還
  • 3
    中居正広は何をしたのか? 真相を知るためにできる唯一の方法
  • 4
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 5
    あまりにも似てる...『インディ・ジョーンズ』の舞台…
  • 6
    磯遊びでは「注意が必要」...6歳の少年が「思わぬ生…
  • 7
    ロシア空軍基地へのドローン攻撃で、ウクライナが「…
  • 8
    「隠れたブラックホール」を見つける新手法、天文学…
  • 9
    イラン領空近くで飛行を繰り返す米爆撃機...迫り来る…
  • 10
    【クイズ】アメリカの若者が「人生に求めるもの」ラ…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 2
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 3
    ロシア空軍基地へのドローン攻撃で、ウクライナが「最大の戦果」...巡航ミサイル96発を破壊
  • 4
    中居正広は何をしたのか? 真相を知るためにできる…
  • 5
    800年前のペルーのミイラに刻まれた精緻すぎるタトゥ…
  • 6
    ガムから有害物質が体内に取り込まれている...研究者…
  • 7
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 8
    一体なぜ、子供の遺骨に「肉を削がれた痕」が?...中…
  • 9
    「この巨大な線は何の影?」飛行機の窓から撮影され…
  • 10
    8日の予定が286日間に...「長すぎた宇宙旅行」から2…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは?
  • 2
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 3
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは?
  • 4
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山…
  • 5
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 6
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 7
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 8
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中