最新記事

AI戦争

AI兵器vs AI兵器の戦争は人知を超える(キッシンジャー&エリック・シュミット)

MACHINES DON'T BLINK

2021年11月24日(水)19時10分
ヘンリー・キッシンジャー(元米国務長官)、エリック・シュミット(グーグル元CEO)、ダニエル・ハッテンロッカー(マサチューセッツ工科大学〔MIT〕学部長)

AI兵器を使いこなせるか

AIがデータを学習して環境に適応し、進化すれば、設計や操作もAI任せの兵器を開発できる。だがそれを使う国は、その兵器が実際にどのような動きをし、どのくらい強力なのかを正確に把握できないかもしれない。

人間には認識できない、あるいは認識に時間がかかる状況もAI兵器なら直ちに把握し、場合によっては人間の思考速度や能力を超えて学習・進化し得る。

防衛的な活動では、現にいくつかのレベルでAIの能力が活用されており、遠からず不可欠なものになるだろう。既にAIが操縦する戦闘機は、シミュレーションによる空中戦で人間のパイロットを凌駕する能力を示している。

従来の紛争では、敵の心理を読み取って行動することが重要だった。だがAIに必要なのは指示と目標だけで、士気も疑念も関係ない。

一方、仮に2つのAI兵器システムが対峙した場合、いずれのシステムも互いの能力を正確には知らないから、それぞれの相互作用が生み出す結果や損害を正確には予測できない。そうなると紛争は一段とエスカレートし、何よりも予測不能な展開を見せる可能性が高い。

magSR20211124machinesdontblink-2.jpg

ILLUSTRATION BY BRANDON LAUFENBERG/GETTY IMAGES, IHOR SVETIUKHA/GETTY IMAGES

だが最も予測し難いのは、AIと人間のインテリジェンスが交錯する場面で何が起きるかだろう。

歴史を顧みれば、国家は戦闘計画の策定に当たり、敵国の行動原理や戦術、そして心理を、たとえ不完全であっても理解していた。だからこそ対抗する戦略や戦術を考案でき、適切な軍事的示威行動(境界線に近づく航空機や艦艇のインターセプトなど)で警告を送ることもできた。

しかし軍隊がAIを計画立案や標的の識別に、いや偵察や戦闘の積極的支援に導入しただけでも、在来のコンセプトはたちまち怪しくなる。在来の方法論や戦術に通じていない別なインテリジェンスとの対話や解釈が必要になるからだ。

そもそもAI(に支援された)兵器や防衛システムへの移行は、およそ人間とは異質な経験的パラダイムで動く膨大な分析能力に一定程度まで依存し、最も極端な場合には完全に判断を委ねることを意味する。そうした依存は未知の、あるいはよく理解されていないリスクを招く。

それ故、人間のオペレーターが介在し、致死的な効果を及ぼしかねないAIの行動を監視し、制御しなければならない。それでも全てのエラーを防ぐことはできないだろうが、少なくとも倫理や責任の問題には対処できる。

より深刻なのは哲学的な問題かもしれない。もしも戦略レベルの決定が人間には理解できないがAIならアクセスできる概念的・分析的領域で下されるとしたら、その戦略の決定プロセスも究極的な影響も人間には知り得ないことになる。

敵も独自のAIシステムを使っている可能性があり、そうした敵の能力や意図を理解し、迅速に対応するにはAIによる最も深いレベルのパターン認識が不可欠と考えるなら、重要な決定を機械に委ねる場面が増えることは避けられない。

今、あなたにオススメ
ニュース速報

ビジネス

ドイツ議会、540億ドル規模の企業減税可決 経済立

ワールド

ガザの援助拠点・支援隊列ルートで計798人殺害、国

ワールド

米中外相が対面で初会談、「建設的」とルビオ氏 解決

ビジネス

独VW、中国合弁工場閉鎖へ 生産すでに停止=独紙
今、あなたにオススメ
MAGAZINE
特集:大森元貴「言葉の力」
特集:大森元貴「言葉の力」
2025年7月15日号(7/ 8発売)

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 2
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に...「曾祖母エリザベス女王の生き写し」
  • 3
    トランプ関税と財政の無茶ぶりに投資家もうんざり、「強いドルは終わった」
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    完璧な「節約ディズニーランド」...3歳の娘の夢を「…
  • 6
    アメリカを「好きな国・嫌いな国」ランキング...日本…
  • 7
    アメリカの保守派はどうして温暖化理論を信じないの…
  • 8
    名古屋が中国からのフェンタニル密輸の中継拠点に?…
  • 9
    トランプはプーチンを見限った?――ウクライナに一転パ…
  • 10
    【クイズ】日本から密輸?...鎮痛剤「フェンタニル」…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    日本企業の「夢の電池」技術を中国スパイが流出...APB「乗っ取り」騒動、日本に欠けていたものは?
  • 4
    後ろの川に...婚約成立シーンを記録したカップルの幸…
  • 5
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 6
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 7
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 8
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 9
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 10
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中