「本格的な医療行為にも役立つが...」ChatGPT、医療利用に伴うリスクとは？

診断書作成などの事務作業への導入が進むチャットボットだが、治療・研究目的での利用には情報の正確性という面でまだ不安が　WAVEBREAKMEDIA/SHUTTERSTOCK

＜現場での活用が始まっているが、個人情報漏洩や信頼性をめぐるリスクが山積み＞

尊厳ある医師と患者の関係は、医療職の根幹だ。守秘義務などによって保護された医療の在り方は伝統に深く根差し、古代ギリシャの「ヒポクラテスの誓い」をはじめとする医療倫理や行動規範に反映されている。

その全てが今や、デジタル化や人工知能（AI）によって混乱に陥りかけている。イノベーションやロボット工学、デジタル技術は医療をよりよく変えられる一方で、倫理的・法的・社会的課題も引き起こす。

昨年11月に革新的なChatGPTが公開されて以来、この新たなチャットボットが医療分野で担う可能性のある役割について、筆者ら生命倫理学者は考察を続けている。

ChatGPTは言語モデルに基づく対話型AIで、インターネット上の大量のテキストを学習している。

既に医療現場では、診断書や紹介状、医療保険請求書の作成といった業務に活用する動きが始まっている。有能なアシスタントがいるのと同じで、事務作業を迅速化し、患者と向き合う時間を増やす上で効果的だ。

もっとも、ChatGPTはより本格的な医療行為にも役立つだろう。その一例が、人工透析や集中治療室病床の割り振りなど、重症度に応じて患者の優先度を判定するトリアージだ。臨床試験への参加者登録にもChatGPTを使えるだろう。

だが治療や研究に取り入れることには、守秘義務や患者の同意、治療の質、信頼性や格差に関する倫理的懸念が伴う。むやみな使用は予想外の望まない結果につながりかねない。

現時点では、医療分野へのChatGPT導入の倫理的影響を判断するのは時期尚早だ。だが、その潜在的リスクやガバナンス（監視・統制）をめぐる問いは、いずれ必ず論議の対象になる。想定できるいくつかの問題を検討してみよう。

第1に、ChatGPTの使用にはプライバシー侵害のリスクがある。

AIの性能や効率性のカギは機械学習だ。つまり、チャットボットのニューラルネットワーク（人間の脳の情報処理の働きをモデルにしたAIシステム）に常時、データをフィードバックする必要がある。

ChatGPTに送られた身元特定可能な患者情報は、将来的に利用される情報の一部になる。言い換えれば、機密性の高い情報が「流通」状態になり、第三者に漏洩しやすくなる。こうした情報をどこまで保護できるのか、明らかではない。

アクセスの南北格差も問題

AIの援用に対する同意が不十分になる恐れもある。自分が何に同意しているのか、患者は理解していないかもしれない。そもそも同意を求められない場合もあり得る。そうなれば、医療従事者や医療機関は告訴されることになりかねない。

クオリティーの高い医療の提供をめぐっても、生命倫理上の懸念が存在する。医療の質は従来、確固とした科学的証拠に基づいている。エビデンス（科学的根拠）創出にChatGPTを利用すれば、研究や論文発表が促進される可能性がある。

だが、現行のChatGPTはデータベースに時間的制限があり、最新情報をリアルタイムで提供できない。現時点では、エビデンス創出の正確度は人間のほうが上だ。

さらに懸念されることに、ChatGPTは捏造を行う場合があると報告されている。これはエビデンスに基づく医療にとって脅威であり、医療の安全性を損ないかねない。

「医療の民主化」が進む現代、医療提供者も患者も各種プラットフォームを利用して、判断の指針となる情報にアクセスできる。だが今のところ、ChatGPTは正確で公正な情報の提供という点で、適切に設定されていない可能性がある。

偏った情報に基づき、白人以外の人種、女性や未成年者のデータを十分に反映していないテクノロジーは有害だ。新型コロナのパンデミックの際、一部のパルスオキシメーター（動脈血酸素飽和度の測定器）で、肌の色などによって不正確な結果が出る問題が判明したのがいい教訓だ。

低中所得国にとって意味する事態についても考えてみるべきだろう。最も明らかな問題はアクセスの格差だ。先端技術の利益やリスクは、国家間で不均等になる傾向がある。

ChatGPTは基本的に無料で利用できるが、それも長くは続かないはずだ（既に有料の最新版が発表されている）。アクセスへの課金は資源が乏しい国にとって脅威になり、デジタルデバイド（情報格差）や世界の医療格差が広がる可能性がある。

AIガバナンスをめぐる国際的ガイドラインの作成は始まっているが、多くの低中所得国はこうした枠組みに対応できていない。AIに特化した法整備をしている国も少ない。

ChatGPTの倫理的・法的影響について、新興国・途上国ならではの視点に基づく議論が不可欠だ。それが、新たな技術の恩恵を公正に享受する道への一歩になる。

Keymanthri Moodley, Distinguished Professor in the Department of Medicine and Director, The Centre for Medical Ethics & Law, Stellenbosch University and Stuart Rennie, Associate professor, University of North Carolina at Chapel Hill

This article is republished from The Conversation under a Creative Commons license. Read the original article.