最新記事

AI

MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」

2016年7月7日（木）16時50分
伊藤穰一

　この懸念に対処する方法は二つある。一つは「人間参加型 (human-in-the-loop)」にして、人間の裁判官の能力を補ったり支援したりするのに機械を使うというものだ。これはうまくいくかもしれない。その一方で、医療や飛行機の操縦といったいくつかの分野の経験を見ると、人間は機械の判断を取り消してまちがった判断を通してしまうことがあり、一部の場合には人間が機械の判断を取り消せないようにしたほうがいい。でも人間が投げやりになったり、結果を盲目的に信用するようになったりして、機械にすべて任してしまう可能性もある。

　第二の方法は、機械を世間によって訓練させること（社会を参加させる）だ----人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練してもらえばいい。これは前例がないことではない----多く意味で、理想的な政府は、それが十分に物事を理解しており、熱心だと人々が思っているので、それが自分を代弁していると感じ、そして政府の行動に対して自分が最終的に責任を負うと感じるようなものだ。

社会が機械の価値観や行動を試験し、監査する手法が必要

　社会が訓練できて、社会が信用できるほど透明性があるようにすることで、社会の支持と代弁能力を獲得できる機械を設計する方法があるのかもしれない。政府は、競合して対立する利害と対処できているし、機械だってそれができるかもしれない。もちろんややこしい障害はたくさんある。たとえば伝統的なソフト（コードは一連のルールだ）とはちがい、機械学習モデルはもっと脳みたいなものだ----一部だけを見て、それが何をするか、今度どう動くかをずばり理解するのは不可能だ。社会が機械の価値観や行動を試験し、監査する手法が必要だ。

　この機械の究極の創造者にしてコントローラーとしての社会からインプットを得て、そしてその支持を得る方法を編み出せれば、それはこの司法問題の裏面も解決するかもしれない----人間が作った機械が犯罪を犯したらどうするか、という問題だ。
　
　たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか。

　機械が社会からの入力をどのように得て、社会によりどう監査されコントロールされるかという問題は、人命を救い正義を実現するために人工知能を導入するにあたり、開発されるべき最も重要な領域となるかもしれない。それにはおそらく、機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ。


Credits
*イヤド・ラフワン (Iyad Rahwan) - 「社会参加型 (society-in-the-loop)」など多くのアイデアについて
*カルシック・ディナカール - 「人間参加型 (human-in-the-loop)」機械学習について教えてくれたことと、ぼくのAIの先生となってくれたこと、その他のアイデアについて
*アンドリュー・マカフィー (Andrew McAfee) - 仮出所審査委員会についての研究紹介と考え方を教えてくれた
*ナタリー・サルティエル - 編集作業
*訳：山形浩生
CC BY 2.1 JP

この記事は、JOI ITO ブログからの転載です。


joi2.jpg伊藤穰一
MITメディアラボ所長。株式会社デジタルガレージ共同創業者で取締役。ソニー株式会社社外取締役。The New York Times、Knight財団、FireFox 開発の Mozilla Foundationのボードメンバー。 2008年米国Business Week誌にて「ネット上で最も影響力のある世界の25人」、2011年米国Foreign Policy誌にて「世界の思想家100人」、2011年英オクスフォード大学インターネット研究所より特別功労賞受賞。
Photograph of Joichi Ito by Mizuka. CC BY 2.0

今、あなたにオススメ

関連ワード

ニュース速報

ワールド

ゼレンスキー氏、和平協議「幾分楽観視」　容易な決断
2025.12.03

ワールド

プーチン大統領、経済の一部セクター減産に不満　均衡
2025.12.03

ワールド

プーチン氏、米特使と和平案巡り会談　欧州に「戦う準
2025.12.03

ビジネス

次期ＦＲＢ議長の人選、来年初めに発表＝トランプ氏
2025.12.03
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本時代劇の挑戦
特集：日本時代劇の挑戦
2025年12月 9日号（12/ 2発売）

『七人の侍』『座頭市』『SHOGUN』......世界が愛した名作とメイド・イン・ジャパンの新時代劇『イクサガミ』の大志

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    大気質指数200超え！テヘランのスモッグは「殺人レベル」、最悪の環境危機の原因とは？
  • 2
    トランプ支持率がさらに低迷、保守地盤でも民主党が猛追
  • 3
    海底ケーブルを守れ──NATOが導入する新型水中ドローン「グレイシャーク」とは
  • 4
    若者から中高年まで ── 韓国を襲う｢自殺の連鎖｣が止…
  • 5
    「世界一幸せな国」フィンランドの今...ノキアの携帯…
  • 6
    もう無茶苦茶...トランプ政権下で行われた「シャーロ…
  • 7
    【香港高層ビル火災】脱出は至難の技、避難経路を階…
  • 8
    22歳女教師、13歳の生徒に「わいせつコンテンツ」送…
  • 9
    人生の忙しさの9割はムダ...ひろゆきが語る「休む勇…
  • 10
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙す…
  • 1
    インド国産戦闘機に一体何が？　ドバイ航空ショーで墜落事故、浮き彫りになるインド空軍の課題
  • 2
    【最先端戦闘機】ミラージュ、F16、グリペン、ラファール勢ぞろい　ウクライナ空軍は戦闘機の「見本市」状態
  • 3
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙すぎた...「心配すべき？」と母親がネットで相談
  • 4
    100年以上宇宙最大の謎だった「ダークマター」の正体…
  • 5
    【クイズ】次のうち、マウスウォッシュと同じ効果の…
  • 6
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
  • 7
    128人死亡、200人以上行方不明...香港最悪の火災現場…
  • 8
    【寝耳に水】ヘンリー王子＆メーガン妃が「大焦り」…
  • 9
    【銘柄】関電工、きんでんが上昇トレンド一直線...業…
  • 10
    子どもより高齢者を優遇する政府...世代間格差は5倍…
  • 1
    東京がニューヨークを上回り「世界最大の経済都市」に...日本からは、もう1都市圏がトップ10入り
  • 2
    一瞬にして「巨大な橋が消えた」...中国・「完成直後」の橋が崩落する瞬間を捉えた「衝撃映像」に広がる疑念
  • 3
    「不気味すぎる...」カップルの写真に映り込んだ「謎の存在」がSNSで話題に、その正体とは？
  • 4
    【クイズ】本州で唯一「クマが生息していない県」は…
  • 5
    【写真・動画】世界最大のクモの巣
  • 6
    高速で回転しながら「地上に落下」...トルコの軍用輸…
  • 7
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 8
    まるで老人...ロシア初の「AIヒト型ロボット」がお披…
  • 9
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 10
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中