日本総研／ヘルスケア領域に特化した生成AI活用のガイドライン策定

2024年01月25日 14:30 ／ IT・システム

関連キーワード
AI
ガイドライン

日本総合研究所（日本総研）が事務局として運営する「日本デジタルヘルス・アライアンス」（JaDHA）は1月18日、ヘルスケア事業者が生成AIを活用するためのガイドラインとして、「ヘルスケア事業者のための生成AI活用ガイド」を策定し公表した。

ヘルスケア領域において、生成AI（Generative AI）は、医学論文や高度な医学専門文書の要約のほか、患者への説明文案の生成など、医師の業務効率化をサポートするための利活用が急速に広がっている。また、患者と医師の会話における文脈を理解しながら診療記録を生成するAIや、対話を通じて利用者個々に最適な健康増進行動を提案する対話型AIなど、より高度なサービスについての開発も積極的に進められている状況がある。

生成AIの利活用拡大が勢いを増す中で、生成AIがもたらす副作用についての指摘も多く聞かれるようになった。例えば、一般的なデータで学習したモデルでは学術用語や専門用語などを正しく扱えず、生成されたアウトプットが不確かな情報である可能性がある。また、参照したデータに信頼性の低い情報を含んでしまった場合には、利用者の健康や生命を脅かす危険性さえ生じさせることになる。さらに、収集した個人情報が目的外で利用されたり、その過程で流出したりするリスクなども想定される。

そうした中、生成AIを組織がスムーズに導入するための利用ガイドラインを策定する動きが生まれた。内閣府のAI戦略会議でも、AIの安全安心な活用が促進されイノベーションの促進と連鎖リスクの緩和を両立する枠組みを共創することを目指し、「AI事業者ガイドライン案」を2023年12月21日に公表している。

一方、ヘルスケア領域は、利用者の健康や生命に関わり、特に機微性の高い要配慮個人情報を取り扱います。そのため、一般的なガイドラインとは別に、業界固有の社会的責任やリスクを十分に考慮した取り組みが欠かせなくなっている。

＜JaDHA＞

JaDHAでは、ヘルスケアサービスを提供する事業者が、生成AIによる多様なサービスを創出し、利用者が安心してサービス選択できる環境を構築することを目的に、いち早くガイドラインを策定した。生成AIを活用したサービスを設計・開発・提供する際に留意すべき事項について、大きく4点を挙げてまとめた。

まず、「生成AIの基盤モデル」については、現在、数十種類が利用可能とされており、クラウド型やローカル型、汎用型や専門特化型など多種多様な基盤モデルが開発されている。ただし、基盤モデルは学習データの内容が異なる、商用利用が制限される場合があるなど、各モデルによって特徴や用途・性能が異なる。そこで、本ガイドラインでは、基盤モデルの特徴や用途・利用可能範囲を事前に確認・判断し、適切なモデルを選定する方法について解説している。

次に、「さまざまな場面での適切なデータの取り扱い」を定めた。生成AIの設計・開発・提供においては、「追加学習させるためのデータ」「新たなタスクを学習させるための少量のサンプル・事例データ」「利用者が入力する質問データ」といった多様なデータの取り扱いが発生する。その際に必要な、要配慮個人情報や著作権の扱い、目的外利用を防ぐ対策などのさまざまな留意事項について解説した。また、適切なデータの取り扱いのため、最新の規制・制度の情報収集を行うなど、データ保護に関する体制整備についても触れている。

さらに、「アウトプットの信頼性確保や利用者への適切な説明」を求めた。生成AIからは、事実と異なる内容が出力されるケースが存在することもある。そのため、この事実を所与としながら、技術面や仕組面でアウトプットの信頼性を確保するための制御を開発段階から行うなどの工夫について解説している。また、利用者の理解度やリテラシーが十分でないことを前提に、適切な利用に向け、生成AIの性質や特徴をあらかじめ伝えるための丁寧な説明・表示の方法についても説明している。

そのほか、「ヘルスケア領域での規制面」を解説した。生成AIを活用した機能やサービスが、医療機器プログラムに該当するケースも存在する。その際に必要となる、適切な該当性判断と規制、また、適切な広告表現や表示を行うための規制について解説している。また、規制について、開発・提供の段階から十分に注意を払うことについても注意喚起を行っている。

急速な新技術の進歩に伴い、生成AIの技術特性と活用方法、関連制度や規制内容なども変化や進化していくことが予想される。JaDHAでは、本ガイドラインを適宜見直し、事業者がタイムリーに適正なサービスを提供できるように取り組んでいく予定だ。

また、生成AIを活用したヘルスケアサービスが浸透し、疾患の早期発見や治療、未病の予防に寄与することで、生活者の健康意識を高め、国民の健康増進を促すことが期待されています。JaDHAでは、ヘルスケア業界全体でのガイドラインの普及・浸透を推進すると共に、生成AIを活用したヘルスケアサービスが、安全・安心な状態で市場に提供されることを実現すべく、必要な規制改革の在り方などを検討するという。

■ヘルスケア事業者のための生成AI活用ガイド（概要版）

■AIの関連記事
DNP／AI活用に向けて「DNPグループAI倫理方針」策定