最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ワールド

米、プーチン氏と生産的な協議　ウクライナ紛争終結の
2025.03.14

ワールド

米・イスラエル、ガザ住民受け入れ巡りアフリカ3カ国
2025.03.14

ビジネス

ＥＣＢの4月据え置き支持、関税などインフレリスク＝
2025.03.14

ビジネス

中国新規銀行融資、予想以上に減少　2月として202
2025.03.14
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本人が知らない 世界の考古学ニュース33
特集：日本人が知らない 世界の考古学ニュース33
2025年3月18日号（3/11発売）

3Dマッピング、レーダー探査......新しい技術が人類の深部を見せてくれる時代が来た

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「若者は使えない」「社会人はムリ」...アメリカでZ世代の採用を見送る会社が続出する理由
  • 2
    テスラ販売急減の衝撃...国別に見た「最も苦戦している市場」とは
  • 3
    【クイズ】ウランよりも安全...次世代原子炉に期待の「トリウム」埋蔵量が最も多い国は？
  • 4
    【クイズ】世界で1番「石油」の消費量が多い国はどこ…
  • 5
    中国中部で5000年前の「初期の君主」の墓を発見...先…
  • 6
    白米のほうが玄米よりも健康的だった...「毒素」と「…
  • 7
    自分を追い抜いた選手の頭を「バトンで殴打」...起訴…
  • 8
    【クイズ】世界で1番「天然ガス」の産出量が多い国は…
  • 9
    「紀元60年頃の夫婦の暮らし」すらありありと...最新…
  • 10
    SF映画みたいだけど「大迷惑」...スペースXの宇宙船…
  • 1
    テスラ販売急減の衝撃...国別に見た「最も苦戦している市場」とは
  • 2
    テスラ失墜...再販価値暴落、下取り拒否...もはやステータスではなく「負債」？
  • 3
    【クイズ】アメリカを貿易赤字にしている国...1位は中国、2位はメキシコ、意外な3位は？
  • 4
    メーガン妃が「菓子袋を詰め替える」衝撃映像が話題…
  • 5
    白米のほうが玄米よりも健康的だった...「毒素」と「…
  • 6
    うなり声をあげ、牙をむいて威嚇する犬...その「相手…
  • 7
    「若者は使えない」「社会人はムリ」...アメリカでZ…
  • 8
    「これがロシア人への復讐だ...」ウクライナ軍がHIMA…
  • 9
    テスラ離れが急加速...世界中のオーナーが「見限る」…
  • 10
    【クイズ】ウランよりも安全...次世代原子炉に期待の…
  • 1
    テスラ離れが急加速...世界中のオーナーが「見限る」ワケ
  • 2
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアでも販売不振の納得理由
  • 3
    口から入ったマイクロプラスチックの行く先は「脳」だった？...高濃度で含まれる「食べ物」に注意【最新研究】
  • 4
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 5
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 6
    がん細胞が正常に戻る「分子スイッチ」が発見される…
  • 7
    戦場に「北朝鮮兵はもういない」とロシア国営テレビ.…
  • 8
    【クイズ】アメリカを貿易赤字にしている国...1位は…
  • 9
    人気も販売台数も凋落...クールなEVテスラ「オワコン…
  • 10
    細胞を若返らせるカギが発見される...日本の研究チー…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中