誤情報も流暢に作成する対話型AI「ChatGPT」の科学への応用と危険性

その回答が必ずしも正しいとは限らない（写真はイメージです）　Rmedia7-shutterstock

＜「インターネットの登場を超えるインパクト」と言われ、急速にユーザーを増やしているChatGPT。科学の世界でもすでに実験や検証の対象として扱われ、論文の著者としても登場しているが──＞

昨年11月末に一般公開され、2カ月で月間アクティブユーザー数が1億人を突破したOpen AI社の対話型AI「ChatGPT」は、自然な分かりやすい文章で利用者が求めた情報に即座に答えてくれる手軽さがもてはやされる一方、課題レポートの作成に使われかねないと教育現場を中心に警戒心も強まっています。

Open AI社は2015年に設立された米国のAI開発会社です。創業にはスペースX社やテスラ社のCEOであるイーロン・マスク氏が携わり、23年1月にはマイクロソフト社が100億ドルの出資をして株式の49％を取得しました。

ChatGPTの優れた点は、簡単な受け答えだけでなく、「中学生でも分かるように地球温暖化について800字以内で説明して」「（複雑なプログラミングコードを提示し）このコードでバグが発生したので、問題箇所を教えて」「（英作文を提示し）この文をネイティブっぽく直して」などの要求にも数秒で答えてくれることです。

ただし、回答が必ずしも正しい情報とは限りません。ニューヨーク市教育局は「学習への悪影響、コンテンツの安全性、正確性に対する危惧」を理由に、所管の学校端末などからアクセスできないようにしました。

さらに、ChatGPTによる個人情報の収集はEU一般データ保護規則違反の疑いがあるとして、イタリア政府は3月31日、ChatGPTへのアクセスを一時的に禁止しました。Open AI社は対応策を文書で送るとしていますが、問題が解決されない場合、最大2000万ユーロ（約28億円）あるいは年間売り上げの4％の罰金が科される可能性があります。

東大理事「話し上手な『知ったかぶり』と話をしているような感じ」

日本では、東京大が太田邦史理事・副学長名義で3日、学内ポータルサイトにChatGPTに代表される生成系AIへの指針を表明しました。太田氏は「平和的かつ上手に制御して利用すれば、人類の幸福に大きく貢献できる」と期待する一方で、「生成系AIには技術的な課題も存在しており、今後の社会への悪影響も懸念されている」と述べ、ChatGPTを「書かれている内容には嘘が含まれている可能性があり、非常に話し上手な『知ったかぶりの人物』と話をしているような感じです」と評して注意喚起しています。

欧米で規制の動きが見られる中、松野博一官房長官は6日、「ChatGPTの教育現場での活用を巡り、文部科学省が指針を取りまとめる方針だ」と記者会見で語りました。そのような状況の中、Open AI社のサム・アルトマン最高経営責任者（CEO）は来日し、10日に岸田文雄首相と面会してChatGPTの技術的な長所と短所の改善法を説明しました。