最新記事

AI戦争

AI兵器vs AI兵器の戦争は人知を超える(キッシンジャー&エリック・シュミット)

MACHINES DON'T BLINK

2021年11月24日(水)19時10分
ヘンリー・キッシンジャー(元米国務長官)、エリック・シュミット(グーグル元CEO)、ダニエル・ハッテンロッカー(マサチューセッツ工科大学〔MIT〕学部長)

AI兵器を使いこなせるか

AIがデータを学習して環境に適応し、進化すれば、設計や操作もAI任せの兵器を開発できる。だがそれを使う国は、その兵器が実際にどのような動きをし、どのくらい強力なのかを正確に把握できないかもしれない。

人間には認識できない、あるいは認識に時間がかかる状況もAI兵器なら直ちに把握し、場合によっては人間の思考速度や能力を超えて学習・進化し得る。

防衛的な活動では、現にいくつかのレベルでAIの能力が活用されており、遠からず不可欠なものになるだろう。既にAIが操縦する戦闘機は、シミュレーションによる空中戦で人間のパイロットを凌駕する能力を示している。

従来の紛争では、敵の心理を読み取って行動することが重要だった。だがAIに必要なのは指示と目標だけで、士気も疑念も関係ない。

一方、仮に2つのAI兵器システムが対峙した場合、いずれのシステムも互いの能力を正確には知らないから、それぞれの相互作用が生み出す結果や損害を正確には予測できない。そうなると紛争は一段とエスカレートし、何よりも予測不能な展開を見せる可能性が高い。

magSR20211124machinesdontblink-2.jpg

ILLUSTRATION BY BRANDON LAUFENBERG/GETTY IMAGES, IHOR SVETIUKHA/GETTY IMAGES

だが最も予測し難いのは、AIと人間のインテリジェンスが交錯する場面で何が起きるかだろう。

歴史を顧みれば、国家は戦闘計画の策定に当たり、敵国の行動原理や戦術、そして心理を、たとえ不完全であっても理解していた。だからこそ対抗する戦略や戦術を考案でき、適切な軍事的示威行動(境界線に近づく航空機や艦艇のインターセプトなど)で警告を送ることもできた。

しかし軍隊がAIを計画立案や標的の識別に、いや偵察や戦闘の積極的支援に導入しただけでも、在来のコンセプトはたちまち怪しくなる。在来の方法論や戦術に通じていない別なインテリジェンスとの対話や解釈が必要になるからだ。

そもそもAI(に支援された)兵器や防衛システムへの移行は、およそ人間とは異質な経験的パラダイムで動く膨大な分析能力に一定程度まで依存し、最も極端な場合には完全に判断を委ねることを意味する。そうした依存は未知の、あるいはよく理解されていないリスクを招く。

それ故、人間のオペレーターが介在し、致死的な効果を及ぼしかねないAIの行動を監視し、制御しなければならない。それでも全てのエラーを防ぐことはできないだろうが、少なくとも倫理や責任の問題には対処できる。

より深刻なのは哲学的な問題かもしれない。もしも戦略レベルの決定が人間には理解できないがAIならアクセスできる概念的・分析的領域で下されるとしたら、その戦略の決定プロセスも究極的な影響も人間には知り得ないことになる。

敵も独自のAIシステムを使っている可能性があり、そうした敵の能力や意図を理解し、迅速に対応するにはAIによる最も深いレベルのパターン認識が不可欠と考えるなら、重要な決定を機械に委ねる場面が増えることは避けられない。

今、あなたにオススメ
ニュース速報

ワールド

アングル:ドローン大量投入に活路、ロシアの攻勢に耐

ビジネス

米国株式市場=S&P・ナスダックほぼ変わらず、トラ

ワールド

トランプ氏、ニューズ・コープやWSJ記者らを提訴 

ビジネス

IMF、世界経済見通し下振れリスク優勢 貿易摩擦が
今、あなたにオススメ
MAGAZINE
特集:AIの6原則
特集:AIの6原則
2025年7月22日号(7/15発売)

加速度的に普及する人工知能に見えた「限界」。仕事・学習で最適化する6つのルールとは?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「細身パンツ」はもう古い...メンズファッションは「ゆったり系」がトレンドに
  • 3
    「想像を絶する」現場から救出された164匹のシュナウザーたち
  • 4
    頭はどこへ...? 子グマを襲った「あまりの不運」が…
  • 5
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 6
    「二次制裁」措置により「ロシアと取引継続なら大打…
  • 7
    「どの面下げて...?」ディズニーランドで遊ぶバンス…
  • 8
    ロシアの労働人口減少問題は、「お手上げ状態」と人…
  • 9
    「異常な出生率...」先進国なのになぜ? イスラエル…
  • 10
    アフリカ出身のフランス人歌手「アヤ・ナカムラ」が…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 3
    「ベンチプレス信者は損している」...プッシュアップを極めれば、筋トレは「ほぼ完成」する
  • 4
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 5
    「お腹が空いていたんだね...」 野良の子ネコの「首…
  • 6
    どの学部の卒業生が「最も稼いでいる」のか? 学位別…
  • 7
    アメリカで「地熱発電革命」が起きている...来年夏に…
  • 8
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 9
    ネグレクトされ再び施設へ戻された14歳のチワワ、最…
  • 10
    「二度とやるな!」イタリア旅行中の米女性の「パス…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 3
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 4
    「あまりに愚か...」国立公園で注意を無視して「予測…
  • 5
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 6
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 9
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 10
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中