最新記事

AI

MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」

2016年7月7日(木)16時50分
伊藤穰一

 この懸念に対処する方法は二つある。一つは「人間参加型 (human-in-the-loop)」にして、人間の裁判官の能力を補ったり支援したりするのに機械を使うというものだ。これはうまくいくかもしれない。その一方で、医療や飛行機の操縦といったいくつかの分野の経験を見ると、人間は機械の判断を取り消してまちがった判断を通してしまうことがあり、一部の場合には人間が機械の判断を取り消せないようにしたほうがいい。でも人間が投げやりになったり、結果を盲目的に信用するようになったりして、機械にすべて任してしまう可能性もある。

 第二の方法は、機械を世間によって訓練させること(社会を参加させる)だ----人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練してもらえばいい。これは前例がないことではない----多く意味で、理想的な政府は、それが十分に物事を理解しており、熱心だと人々が思っているので、それが自分を代弁していると感じ、そして政府の行動に対して自分が最終的に責任を負うと感じるようなものだ。

社会が機械の価値観や行動を試験し、監査する手法が必要

 社会が訓練できて、社会が信用できるほど透明性があるようにすることで、社会の支持と代弁能力を獲得できる機械を設計する方法があるのかもしれない。政府は、競合して対立する利害と対処できているし、機械だってそれができるかもしれない。もちろんややこしい障害はたくさんある。たとえば伝統的なソフト(コードは一連のルールだ)とはちがい、機械学習モデルはもっと脳みたいなものだ----一部だけを見て、それが何をするか、今度どう動くかをずばり理解するのは不可能だ。社会が機械の価値観や行動を試験し、監査する手法が必要だ。

 この機械の究極の創造者にしてコントローラーとしての社会からインプットを得て、そしてその支持を得る方法を編み出せれば、それはこの司法問題の裏面も解決するかもしれない----人間が作った機械が犯罪を犯したらどうするか、という問題だ。
 
 たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか。

 機械が社会からの入力をどのように得て、社会によりどう監査されコントロールされるかという問題は、人命を救い正義を実現するために人工知能を導入するにあたり、開発されるべき最も重要な領域となるかもしれない。それにはおそらく、機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ。


Credits
*イヤド・ラフワン (Iyad Rahwan) - 「社会参加型 (society-in-the-loop)」など多くのアイデアについて
*カルシック・ディナカール - 「人間参加型 (human-in-the-loop)」機械学習について教えてくれたことと、ぼくのAIの先生となってくれたこと、その他のアイデアについて
*アンドリュー・マカフィー (Andrew McAfee) - 仮出所審査委員会についての研究紹介と考え方を教えてくれた
*ナタリー・サルティエル - 編集作業
*訳:山形浩生
CC BY 2.1 JP

この記事は、JOI ITO ブログからの転載です。


joi2.jpg伊藤穰一
MITメディアラボ所長。株式会社デジタルガレージ共同創業者で取締役。ソニー株式会社社外取締役。The New York Times、Knight財団、FireFox 開発の Mozilla Foundationのボードメンバー。 2008年米国Business Week誌にて「ネット上で最も影響力のある世界の25人」、2011年米国Foreign Policy誌にて「世界の思想家100人」、2011年英オクスフォード大学インターネット研究所より特別功労賞受賞。
Photograph of Joichi Ito by Mizuka. CC BY 2.0

今、あなたにオススメ

関連ワード

ニュース速報

ワールド

アングル:ドローン大量投入に活路、ロシアの攻勢に耐

ビジネス

米国株式市場=S&P・ナスダックほぼ変わらず、トラ

ワールド

トランプ氏、ニューズ・コープやWSJ記者らを提訴 

ビジネス

IMF、世界経済見通し下振れリスク優勢 貿易摩擦が
今、あなたにオススメ
MAGAZINE
特集:AIの6原則
特集:AIの6原則
2025年7月22日号(7/15発売)

加速度的に普及する人工知能に見えた「限界」。仕事・学習で最適化する6つのルールとは?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「細身パンツ」はもう古い...メンズファッションは「ゆったり系」がトレンドに
  • 3
    「想像を絶する」現場から救出された164匹のシュナウザーたち
  • 4
    頭はどこへ...? 子グマを襲った「あまりの不運」が…
  • 5
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 6
    「二次制裁」措置により「ロシアと取引継続なら大打…
  • 7
    「どの面下げて...?」ディズニーランドで遊ぶバンス…
  • 8
    ロシアの労働人口減少問題は、「お手上げ状態」と人…
  • 9
    「異常な出生率...」先進国なのになぜ? イスラエル…
  • 10
    アフリカ出身のフランス人歌手「アヤ・ナカムラ」が…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 3
    「ベンチプレス信者は損している」...プッシュアップを極めれば、筋トレは「ほぼ完成」する
  • 4
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 5
    「お腹が空いていたんだね...」 野良の子ネコの「首…
  • 6
    どの学部の卒業生が「最も稼いでいる」のか? 学位別…
  • 7
    アメリカで「地熱発電革命」が起きている...来年夏に…
  • 8
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 9
    ネグレクトされ再び施設へ戻された14歳のチワワ、最…
  • 10
    「二度とやるな!」イタリア旅行中の米女性の「パス…
  • 1
    その首輪に書かれていた「8文字」に、誰もが言葉を失った
  • 2
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 3
    頭はどこへ...? 子グマを襲った「あまりの不運」が話題に
  • 4
    「あまりに愚か...」国立公園で注意を無視して「予測…
  • 5
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 6
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 9
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 10
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中