最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

アングル：保護政策で生産力と競争力低下、ブラジル自
2025.04.19

ワールド

焦点：アサド氏逃亡劇の内幕、現金や機密情報を秘密裏
2025.04.19

ワールド

米、クリミアのロシア領認定の用意　ウクライナ和平で
2025.04.19

ワールド

トランプ氏、ウクライナ和平仲介撤退の可能性明言　進
2025.04.19
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：トランプショック
特集：トランプショック
2025年4月22日号（4/15発売）

大規模関税発表の直後に90日間の猶予を宣言。世界経済を揺さぶるトランプの真意は？

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    しゃがんだ瞬間...「えっ全部見えてる？」ジムで遭遇した「透けレギンス」投稿にネット騒然
  • 2
    【クイズ】売上高が世界1位の「半導体ベンダー」はどこ？ ついに首位交代！
  • 3
    【クイズ】世界で最も「半導体の工場」が多い国どこ？ 1位は意外にも...！？
  • 4
    「生はちみつ」と「純粋はちみつ」は何が違うのか？.…
  • 5
    【渡航注意】今のアメリカでうっかり捕まれば、裁判…
  • 6
    「2つの顔」を持つ白色矮星を新たに発見！磁場が作る…
  • 7
    300マイル走破で足がこうなる...ウルトラランナーの…
  • 8
    「100歳まで食・酒を楽しもう」肝機能が復活！ 脂肪…
  • 9
    今のアメリカは「文革期の中国」と同じ...中国人すら…
  • 10
    トランプ関税 90日後の世界──不透明な中でも見えてき…
  • 1
    間食はなぜ「ナッツ一択」なのか？...がん･心疾患･抜け毛の予防にも役立つ可能性【最新研究】
  • 2
    【クイズ】世界で最も「半導体の工場」が多い国どこ？ 1位は意外にも...！？
  • 3
    【心が疲れたとき】メンタルが一瞬で “最強” になる「超短い一言」
  • 4
    あなたには「この印」ある？ 特定の世代は「腕に同じ…
  • 5
    パニック発作の原因とは何か？...「あなたは病気では…
  • 6
    しゃがんだ瞬間...「えっ全部見えてる？」ジムで遭遇…
  • 7
    中国はアメリカとの貿易戦争に勝てない...理由はトラ…
  • 8
    北朝鮮兵の親たち、息子の「ロシア送り」を阻止する…
  • 9
    動揺を見せない習近平...貿易戦争の準備ができている…
  • 10
    【渡航注意】今のアメリカでうっかり捕まれば、裁判…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは？
  • 2
    【話題の写真】高速列車で前席のカップルが「最悪の行為」に及ぶ...インド人男性の撮影した「衝撃写真」にネット震撼【画像】
  • 3
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山ダムから有毒の水が流出...惨状伝える映像
  • 4
    「さようなら、テスラ...」オーナーが次々に「売り飛…
  • 5
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 6
    健康寿命を伸ばすカギは「人体最大の器官」にあった.…
  • 7
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 8
    【心が疲れたとき】メンタルが一瞬で “最…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    「低炭水化物ダイエット」で豆類はNG...体重が増えな…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中