最新記事

テクノロジー

AIの思考回路はブラックボックス

2017年8月4日（金）18時15分
ジョン・フランク・ウィーバー（弁護士・作家）

iStock./GETTY IMAGES

＜人工知能が下した判断の根拠を明らかにする動きを加速させる必要がある＞

わが家は今、アマゾン・ドットコムのスマートスピーカー「アマゾン・エコー」にはまっている。なかでもお気に入りは音楽。エコーに搭載されたAIアシスタント「アレクサ」に一声掛ければ、家族の好みに合った曲を流してくれる――大抵の場合は。

ところが先日、思わぬことが起きた。アレクサが選んだのは90年代の一発屋ラッパー、サー・ミックス・ア・ロット。大笑いした後、私は真面目に尋ねた。「アレクサ、どうして？」。優秀なAIが、子供向けの音楽やビートルズを好むわが家にこの曲を薦めた理由を知りたかったのだ。

残念ながら、アレクサはその問いに答えられない。判断の根拠を明らかにする仕様になっていないからだ。

アレクサのようなAIアシスタントや自動運転車、自動会話プログラムなど、AIが自ら学習を重ね、独自の判断を下す自律デバイスが続々と登場している。だがその「思考回路」はブラックボックスで、AIの意外な選択に戸惑わされることもある。

【参考記事】AIを使えば、かなりの精度で自殺を予測できる

しかも、こうしたテクノロジーは司法や健康、さらには生死を左右する判断にまで関与し始めており、場違いな選曲といった笑い話とは比べものにならないほど深刻な影響をもたらしかねない。

そこで注目が高まっているのが「説明を求める権利」だ。AIがなぜこの曲を選んだのか、なぜここで高速道路を降りることにしたのかといった疑問に答えるよう要求する権利のことで、AIの判断プロセスがブラックボックス化している流れを食い止めようとする動きだ。

説明を求める権利は、アルゴリズムの透明性を高める取り組みの一環でもある。透明性が高まれば、AIが差別を助長する選択をしたり、特定の企業を不当に利するような事態を防ぎやすくなる。

この権利を重視する流れが特に顕著なのはEUだ。EUはプライバシー保護の新たな枠組みである「一般データ保護規則（GDPR）」を来年5月に施行予定。ユーザーの個人情報を入手した企業は、その情報をAIが処理するか否かを本人に通知し、AIの判断の背後にあるロジックについて情報提供することが義務付けられる。つまり、AIが個人情報に基づき特定の音楽や通行ルートを推薦するたびに、その根拠を説明する責任が生じる。

次のページ開発者の権利が損なわれる？
今、あなたにオススメ
ニュース速報

ワールド

ウクライナ、イースター停戦に従って行動へ　ゼレンス
2026.04.10

ビジネス

再送-〔マクロスコープ〕「百貨店売り場」にみる消費
2026.04.10

ビジネス

米国株式市場＝続伸、中東和平交渉への期待感で
2026.04.10

ビジネス

ＮＹ外為市場＝ドル弱含み、米イラン停戦維持を注視
2026.04.10
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：トランプの大誤算
特集：トランプの大誤算
2026年4月14日号（4/ 7発売）

国民向け演説は「フェイク」の繰り返し。泥沼化するイラン攻撃の出口は見えない

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    古代のパピルスから新たに見つかった「2500年前の文章」...歴史を塗り替えかねない、その内容とは？
  • 2
    バリ島沖の要衝で「中国製水中ドローン」が回収される...潜水艦の重要ルートで一体何をしていた？
  • 3
    撃墜された米国機から財布やID回収か、イラン側が拡散──深まる謎
  • 4
    ポケモンで遊ぶと脳に「専用の領域」ができる？　ポ…
  • 5
    韓国､生理用品無償支給を7月から開始　靴の中敷きで…
  • 6
    戸建てシフトで激変する住宅市場
  • 7
    高学力の男女で見ても、日本の男女の年収格差は世界…
  • 8
    目のやり場に困る...元アイスホッケー女性選手の「密…
  • 9
    「仕事ができる人」になる、ただ1つの条件...「頑張…
  • 10
    「地獄を見る」のは米国か──イラン地上侵攻なら革命…
  • 1
    米特殊部隊、米空軍兵士救出「大成功」に残る多くの疑問
  • 2
    古代のパピルスから新たに見つかった「2500年前の文章」...歴史を塗り替えかねない、その内容とは？
  • 3
    韓国､生理用品無償支給を7月から開始　靴の中敷きで代用した少女たちから10年、アジア初の普遍的支援へ
  • 4
    イラン戦争の現実...アメリカとイスラエル、見え始め…
  • 5
    「南東部と東部の前線で480平方キロ奪還」とウクライ…
  • 6
    「考えの浅い親」が子どもに言ってしまっている口ぐ…
  • 7
    「地獄を見る」のは米国か──イラン地上侵攻なら革命…
  • 8
    バリ島沖の要衝で「中国製水中ドローン」が回収され…
  • 9
    ポケモンで遊ぶと脳に「専用の領域」ができる？　ポ…
  • 10
    撃墜された米国機から財布やID回収か、イラン側が拡…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    米特殊部隊、米空軍兵士救出「大成功」に残る多くの疑問
  • 3
    「根底にあるのは怒り」...日本の「3Dプリンター住宅」企業が救う、ウクライナの未来
  • 4
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 5
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 6
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 7
    「日本より、自分の国（フランス）を心配すれば？」…
  • 8
    古代のパピルスから新たに見つかった「2500年前の文…
  • 9
    米軍も防ぎきれないイランのドローン攻撃──イラン製…
  • 10
    メーガン妃、娘リリベット王女との「お手伝い姿」公…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中