医療AIを安全に導入するために必要なルールとは｜個人情報保護・責任の所在・説明可能性を徹底解説

AIが医療現場に入ってきた――北海道の地域医療が直面するリアル

「先生、AIがうちの病院に導入されるらしいんですが、私の情報は大丈夫でしょうか」。訪問診療の現場や、オンライン診療の画面越しに、患者さんやご家族からこうした言葉をいただく機会が増えてきました。医療AIへの関心と不安は、都市部だけでなく、北海道の地方にも着実に広がっています。

日本では医師の偏在問題が深刻化しており、特に北海道はその影響を強く受けています。厚生労働省の「医師偏在指標」（2023年度版）によれば、北海道の多くの二次医療圏は全国平均を大きく下回る医師充足率に留まっており、在宅医療や精神科領域においてもアクセスの格差は縮まっていません。こうした課題に対して、医療AIは診断支援・業務効率化・遠隔医療との連携という形で、貴重な「第二の手」となりうる存在です。

しかし、技術の導入そのものに比べて、「どのようなルールのもとで運用するか」という議論は、まだ十分に追いついていないのが現状です。AIが画像診断を支援し、問診を自動化し、服薬管理を行う場面では、患者の極めてセンシティブな個人情報が大量に扱われます。そしてAIの判断が関与したケースで医療事故が起きたとき、責任の所在は明確になるのでしょうか。AIの根拠を患者に説明する義務は、どこまで医師に課されるのでしょうか。

この記事では、医療AIの安全な導入を実現するために不可欠な三つの柱――個人情報保護・責任の所在・説明可能性――について、法的根拠・ガイドライン・実践例を交えながら丁寧に解説していきます。地域医療を守るためにテクノロジーを活用するとはどういうことか、その本質に迫ります。

医療AIとは何か――種類と医療現場での活用場面

診断支援AIから業務効率化AIまで

医療AIと一口にいっても、その種類と用途は多岐にわたります。現在、医療現場で実用化が進んでいる主なAIとしては、次のようなカテゴリが挙げられます。第一に画像診断支援AIです。胸部X線・CT・眼底写真・内視鏡画像などを解析し、がん・骨折・糖尿病性網膜症などの所見を検出するシステムで、すでに薬機法上の医療機器として承認を受けているものも複数存在します。

第二に問診・トリアージAIです。受診前に患者が症状を入力すると、AIが優先度を判定したり、適切な診療科を案内したりします。オンライン診療との親和性が高く、地方での初期対応を補完する可能性があります。第三に電子カルテ・医療文書の自動作成AIです。医師と患者の会話を音声認識でテキスト化し、カルテの草案を自動生成することで、医師の事務負担を大幅に削減できると期待されています。第四に予測・モニタリングAIです。バイタルデータや検査値の推移から入院中の急変リスクや在宅患者の状態悪化を予測するシステムが、急性期・在宅医療の双方で活用され始めています。

地域医療・在宅医療での活用可能性

北海道のように広大な地域では、専門医へのアクセスが制限されている患者さんが多く、遠隔地での診断精度を補完するAIの意義は特に大きいと考えられています。たとえば、皮膚科専門医が不在の地域でも、皮膚疾患の画像AIを活用することで、訪問診療医が初期スクリーニングを行い、必要に応じてオンライン診療で専門医に繋げるという連携が可能になります。精神科・メンタルヘルス領域においても、問診AIや感情分析AIを用いた早期スクリーニングは、受診の敷居を下げる効果があると報告されています。

一方で、AIが「補助的なツール」として機能するためには、それを使う医師・医療機関が適切なリテラシーと運用ルールを持っていることが前提です。技術だけが先行して、倫理・法律・運用ルールが追いつかない状態では、患者への不利益が生じるリスクがあります。次のセクションから、その三つの柱を順番に掘り下げていきます。

第一の柱｜個人情報保護――医療AIが扱う「最もセンシティブなデータ」

医療情報は「要配慮個人情報」である

医療情報は、個人情報保護法における「要配慮個人情報」に該当します。これは、不当な差別・偏見・その他の不利益が生じないよう特に慎重な取り扱いが求められる情報であり、病歴・診断名・処方内容・精神科受診歴・障害の有無などが含まれます。要配慮個人情報は、原則として本人の同意なく取得・第三者提供することが禁止されており、医療機関はその管理について厳格な責務を負っています。

医療AIに患者データを入力・学習させる場合、そのデータが「要配慮個人情報」を含む可能性が高いため、利用目的の特定・本人への通知・安全管理措置のいずれもが法的に要求されます。2022年4月に施行された改正個人情報保護法では、「仮名加工情報」「匿名加工情報」の活用促進が盛り込まれましたが、AIの学習に用いるデータが本当に適切に匿名化されているかを確認するプロセスが不可欠です。

医療機関が押さえるべき個人情報保護の実践ポイント

厚生労働省が策定した「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」（最終改正2023年）は、医療機関が個人情報を取り扱う際の基本的な枠組みを示しています。医療AIを導入する際には、このガイダンスを踏まえたうえで、少なくとも以下の点を確認することが重要です。

• AI事業者（ベンダー）との間で、データの利用目的・管理方法・漏えい時の対応を定めた委託契約・データ処理契約が締結されているか
• 患者データをAIの学習に使用する場合、患者本人への説明と同意取得（またはオプトアウト手続き）が適切に行われているか
• AIベンダーのシステムがクラウド上にある場合、データが国外のサーバーに移転していないか、移転する場合は法令に沿った措置がとられているか
• AIシステムへのアクセス権限を職種・役割に応じて適切に制限しているか
• データ漏えい発生時の報告体制（個人情報保護委員会への報告・本人通知）が整備されているか

当法人でも、オンライン診療プラットフォームや電子カルテシステムの選定において、セキュリティ要件・データ保管場所・アクセスログの管理をベンダーと詳細に確認するプロセスを標準化しています。「便利そうだから」という理由だけでAIツールを導入することは、患者さんの信頼を損なうリスクをはらんでいることを、常に念頭に置いていただきたいと思います。

次世代の課題：フェデレーテッドラーニングとプライバシー保護技術

近年、医療AI研究の分野では、患者データを外部に送り出さずにAIを学習させる「連合学習（フェデレーテッドラーニング）」や、データを暗号化したまま解析する「秘密計算」などのプライバシー保護技術が注目されています。これらの技術が実用化されれば、個人情報保護と医療AIの精度向上を両立させることがより現実的になると考えられています。北海道のような広域・多施設間でデータを活用するシナリオでも、こうした技術の活用を視野に入れた議論が必要です。

第二の柱｜責任の所在――AIが関与した医療事故は「だれの責任」か

現行法における医療責任の原則

医療AIに関する責任問題は、現時点では世界的にも法整備が追いついていない領域のひとつです。日本の現行法においては、医療行為の最終的な判断と責任は医師に帰属するというのが基本原則です。医師法第17条は医業独占を定めており、診断・治療の決定権は医師にあります。したがって、たとえAIが「異常なし」と判定した画像を医師が確認せずに見逃した場合でも、法的には医師の過失が問われる可能性があります。

一方、AIベンダー側の責任については、製造物責任法（PL法）の適用可能性が議論されています。ただし、AIのソフトウェアが「製造物」に該当するかどうかについては解釈が分かれており、現時点では製造物責任法の直接適用は困難とする見解が多数派です。欧州では2022年にAI責任指令（草案）が公表され、高リスクAIに関する立証責任の転換が提案されていますが、日本では現時点でAI固有の責任規定は存在しません。

医療機器としてのAI：薬機法規制との関係

診断支援AIが薬機法上の医療機器として承認・認証を受けている場合、その設計・製造・品質管理についてはメーカーが一定の責任を負います。2023年時点で、日本では100品目以上のAIを含む医療機器が承認されており、その中には画像診断支援AIも複数含まれます。医療機関が承認済みAIを適切な用途・条件で使用したにもかかわらず問題が生じた場合には、ベンダー側の責任が問われる余地が生まれます。

しかし、承認されていないAIツール（いわゆる「院内AI」や汎用生成AIの医療利用など）を医療機関が独自に導入・活用している場合、そのリスク管理は医療機関が全面的に負うことになります。このため、医療機関はAIツールが薬機法上の規制対象かどうかを事前に確認することが強く推奨されます。

責任リスクを最小化するための運用体制

現実的なリスク管理として、医療機関はAI導入時に以下のような体制を整えることが重要です。まず、AIの判定はあくまで「補助情報」として位置づけ、最終判断は必ず医師が行うというワークフローを明文化することです。AIが「異常なし」と判定した場合でも、医師が独立して確認するダブルチェック体制を設けることが望まれます。次に、AIの使用履歴・判定結果・医師の最終判断をすべてカルテに記録し、事後的に検証できるようにすることです。また、AIシステムのバージョン管理・アップデート情報を記録し、特定時点でどのバージョンのAIが使用されていたかを追跡できるようにしておくことも重要です。

第三の柱｜説明可能性――AIの「なぜ」を患者に伝える義務

ブラックボックス問題とは何か

現代の医療AIの多くは、深層学習（ディープラーニング）と呼ばれる手法を使っています。この技術は高い精度を実現できる一方で、AIがどのようなプロセスで結論を出したかを人間が直感的に理解しにくい、いわゆる「ブラックボックス問題」を抱えています。たとえば、AIが胸部X線画像で「肺がんの疑いあり」と判定した場合、「なぜそう判断したのか」という根拠を医師が患者に説明できるかどうかが問われます。

医師には、診療行為について患者に説明し同意を得る「インフォームドコンセント」の義務があります。AIが診断・治療に関与した場合にも、この義務の範囲内でAIの役割・限界・医師の最終判断の根拠を説明することが求められると考えられています。2023年に内閣府が策定した「AI戦略2023」においても、医療分野でのAI活用における透明性と説明責任の確保が重点事項のひとつとして掲げられています。

説明可能なAI（XAI）の技術的アプローチ

こうした課題に対応するため、「説明可能なAI（eXplainable AI：XAI）」という研究分野が急速に発展しています。XAIは、AIの判定根拠を人間が理解できる形で可視化・提示する技術群の総称です。たとえば、画像診断AIの分野では「Grad-CAM（グラディエント加重クラス活性化マッピング）」という手法が広く用いられており、AIがどの部位に着目して判定したかをヒートマップ（色の濃淡）で視覚化することができます。

The Lancetに掲載された研究（Topol EJ, 2019）では、説明可能なAIが医師の意思決定を支援するうえで不可欠な要素であると論じられており、AIの判定に視覚的根拠を付与することで医師の診断精度と患者への説明の質が向上する可能性が示唆されています。日本でも、医療AIの薬機法審査において説明可能性が考慮されるようになってきており、今後は「なぜそう判定したか」を提示できないAIは医療現場で採用されにくくなっていくと予測されます。

患者への説明をどのように行うか

実臨床でAIを活用する際、患者への説明は「AIが診断した」ではなく「AIを補助ツールとして参照しながら、私（医師）が総合的に判断した」というフレーミングが基本となります。説明する内容としては、①AIを使用した事実、②AIの役割（補助・スクリーニングなど）、③AIの限界・誤判定の可能性、④最終判断は医師が行った事実、の四点が最低限含まれることが望ましいと考えられています。

また、患者さんの中には「AIに診てもらいたくない」という意思を持つ方もいるかもしれません。こうした患者さんの意思を尊重する仕組みも、説明可能性の一部として整備しておくことが大切です。

医療AIガバナンスの国際的潮流と日本の現在地

WHO・EUのAIガイドラインが示す方向性

国際的には、医療AIのガバナンスに関する枠組み策定が急速に進んでいます。世界保健機関（WHO）は2021年に「保健医療分野における倫理的なAI活用のためのガイダンス」を発表し、人間の監視・透明性・説明責任・公平性・プライバシー保護・持続可能性という六つの原則を掲げました。欧州では2024年に「AI法（EU AI Act）」が発効し、医療AIは「高リスクAI」に分類され、適合性評価・リスク管理・人間による監視の義務が課されています。

米国においても、FDA（食品医薬品局）は2023年に「AIおよびMLを用いた医療機器のための行動計画」を更新し、継続的学習型AIに対する市販後監視・透明性基準を強化しています。こうした国際的な潮流は、日本の医療AIガバナンスにも徐々に影響を与えており、厚生労働省・経済産業省が共同で医療AIの開発ガイドラインの整備を進めています。

日本の医療AIガバナンスの現状と課題

日本では2023年に「AI事業者ガイドライン（第1.0版）」が内閣府から公表され、医療を含むリスクの高い分野での人間による監視・記録保持・透明性確保が求められています。一方、医療AIに特化した包括的な規制法は現時点では存在せず、薬機法・個人情報保護法・医師法などの既存法制を組み合わせて対応している段階です。

特に北海道のような地域では、AI導入を検討している医療機関がガイドラインや法令の情報に十分にアクセスできていないケースも見受けられます。専門家コンサルタントや学会ガイドラインの活用、地域の医師会との情報共有が、安全なAI導入を実現するうえで重要な役割を果たすと考えられます。

安全な医療AI導入のための実践的チェックリスト

導入前に確認すべき事項

医療AIを導入しようとしている医療機関・介護施設の担当者に向けて、実践的なチェックポイントをまとめます。まず導入前の評価フェーズでは、以下を確認することが重要です。対象のAIが薬機法上の医療機器として承認・認証を受けているか、または院内限定・研究目的での利用かを明確にすること。AIベンダーの企業体制・セキュリティ認証（ISO/IEC 27001等）・過去のインシデント実績を確認すること。患者データの取り扱い（保管場所・アクセス権・削除ポリシー）についてベンダーと文書で合意すること。AIの性能評価データ（感度・特異度・False Positive率など）が自施設の患者属性に適合しているかを確認すること。

運用フェーズで整備すべき体制

運用フェーズでは、次の体制整備が求められます。AIの使用に関する院内ポリシーを文書化し、全スタッフに周知すること。AIの判定を使用した診療記録を適切に保管し、事後的な監査ができるようにすること。スタッフへのAIリテラシー教育を定期的に実施し、AIの過信・過小評価の両方を防ぐこと。AIシステムのバージョンアップ・仕様変更時に再評価を行うプロセスを設けること。患者からのAI使用に関する問い合わせ・苦情に対応する窓口を設けること。

在宅医療・介護分野での特別な考慮点

在宅医療や介護の現場では、病院環境と異なる特有の課題があります。在宅患者のバイタルデータをIoTデバイスで収集してAIが分析するケースでは、デバイス自体のセキュリティ管理が重要になります。また、認知症の患者さんや意思決定能力が低下している方に対して、AI使用に関する同意をどのように得るかという倫理的問題も考慮が必要です。家族・成年後見人との連携を含めたインフォームドコンセントのプロセスを整備しておくことが望まれます。介護スタッフがAIツールを使用する場面では、医療行為との境界線を明確にし、AIの判定を医師に報告する連携体制を整えることが不可欠です。

医療法人鳳應会の取り組みと、地域医療を守るAI活用の姿勢

テクノロジーは「人を支えるための道具」である

私が理事長を務める医療法人鳳應会は、「病を治す」から「人生を支え抜く」へというビジョンのもと、保健・医療・福祉の複合体として北海道・札幌・小樽の地域医療を担っています。訪問診療・在宅医療・精神科・産業医・オンライン診療と多領域にわたる診療体制の中で、私たちはデジタル技術を「効率化のため」ではなく「患者さん一人ひとりの人生を支えるため」に活用するという原則を大切にしています。

当法人が運営する北海道オンラインクリニックでは、精神科・メンタルヘルス領域のオンライン診療を提供しており、受診のハードルが高い方々に対して安全なアクセス経路を確保しています。またMedi Face（精神科DX）では、デジタルを活用した精神医療のサービス向上に取り組んでいます。これらのプラットフォームで扱う患者データは最もセンシティブな情報であり、個人情報保護・セキュリティ管理を最優先に位置づけた運用体制を構築しています。

AIに「任せる」ではなく、AIと「協働する」

医療AIに関して、私自身が常に意識していることがあります。それは、AIはあくまで「医師の判断を補助するツール」であり、患者さんと向き合うのは最終的には「人間の医師」でなければならないという信念です。北海道の地方では、医師との信頼関係が患者さんの医療アクセスの根幹をなしており、AIへの不信感や不安が医療忌避につながることだけは避けなければなりません。

そのため、当法人ではAIツールの導入に際して、患者さんへの丁寧な説明・同意プロセスを欠かさず行うとともに、スタッフへのAIリテラシー教育を継続的に実施しています。「なぜこのAIを使うのか」「患者さんにとってどんなメリットがあるのか」「万が一のリスクにどう対応するのか」を、チーム全員が共有したうえで導入する――これが私たちの基本姿勢です。

地域の医療機関・介護事業者の皆さまへ

北海道内で医療AIや介護DX・福祉DXの導入を検討されている医療機関・介護事業者の皆さまへ、ぜひ一度ご相談いただければと思います。「どのAIを選べばいいかわからない」「個人情報保護の観点から何を確認すればよいか」「スタッフへの教育をどう進めるか」といった実務的な悩みに対して、当法人の経験と知識をもとにお役に立てることがあるかもしれません。テクノロジーで地域医療の格差を縮め、患者さんの「人生を支え抜く」ために、私たちは今日も診療・研究・発信を続けています。

よくある質問

Q. 医療AIに自分の情報を使われることに同意したくない場合、どうすればよいですか？

A. 個人情報保護法の原則のもと、患者さんにはご自身の情報の取り扱いに関する意思を表明する権利があります。医療機関がAIの学習や運用に患者データを使用する場合、多くのケースで事前の説明と同意（インフォームドコンセント）またはオプトアウト（拒否）の機会が設けられるべきとされています。「AIを使ってほしくない」「データを提供したくない」という意思を担当医や医療機関の窓口に伝えることをためらわずにお申し出ください。その意思は尊重されるべきものです。

Q. AIが誤った診断を示した場合、医師とAI会社のどちらに責任がありますか？

A. 現行の日本の法制度では、診断の最終判断は医師にあるため、AIの誤判定を医師が確認せずに採用した場合には医師・医療機関の責任が問われる可能性があります。一方、薬機法上の医療機器として承認されたAIに設計上の欠陥があった場合や、ベンダーが虚偽の性能を主張していた場合などは、ベンダー側の責任が問われる余地があります。この領域の法整備は現在進行中であり、今後の判例・立法の動向を注視する必要があります。

Q. 小規模な診療所や訪問看護ステーションでも医療AIは活用できますか？

A. 活用可能なAIツールは大規模病院向けに限らず、小規模クリニック・訪問診療・訪問看護向けに設計されたものも増えています。問診AIや服薬管理AIなどは比較的導入ハードルが低く、コスト面でも採用しやすいものがあります。ただし、小規模機関ほど導入後のサポート体制やセキュリティ管理に目が行き届きにくい面もあるため、信頼できるベンダーの選定と、最低限の個人情報保護体制の整備が特に重要です。

Q. 精神科・メンタルヘルス領域でのAI活用で特に注意すべき点はありますか？

A. 精神科領域の情報（診断名・処方薬・受診歴など）は、差別・偏見につながりやすい最もセンシティブな個人情報のひとつです。AIが感情分析・リスク予測などに使用されるケースでは、アルゴリズムのバイアス（特定の属性の方に不利な判定が出やすい偏り）にも注意が必要です。患者さんの同意なくAIが生成したメンタルヘルス評価をケアの決定に使用することは倫理的に問題があるとされており、あくまでスクリーニングの補助として使用し、専門医による総合評価と組み合わせることが重要です。

Q. 医療AIの信頼性を患者がどう見極めればよいですか？

A. 患者さんの視点からは、担当医に「このAIは薬機法上の医療機器として承認されていますか」「どのような目的でAIを使っていますか」「AIの判定はどのように最終判断に反映されますか」と質問することが一つの目安になります。承認済みのAIを使用している医療機関は、その旨を説明できるはずです。また、AI使用について十分な説明なく診断が行われた場合には、セカンドオピニオンを求めることも選択肢として考えられます。

まとめ

医療AIは、地域医療の格差解消・診断精度の向上・医師の業務負担軽減という点で大きな可能性を秘めた技術です。しかし、その恩恵を安全に受け取るためには、技術の導入と並行して、明確なルールと運用体制の整備が欠かせません。本記事の要点を以下にまとめます。

• 個人情報保護：医療情報は「要配慮個人情報」であり、AIに患者データを活用する際には利用目的の明示・同意取得・安全管理措置・委託契約の締結が法的に求められる
• 責任の所在：現行法では診断・治療の最終責任は医師に帰属する。AIの判定はあくまで補助情報と位置づけ、医師によるダブルチェックと記録保持が不可欠である
• 説明可能性：インフォームドコンセントの延長として、医師はAIの役割・限界・最終判断の根拠を患者に説明できる体制を整える必要がある。説明可能なAI（XAI）技術の活用が有効である
• ガバナンスの国際動向：WHO・EU・FDAなどが医療AIガバナンスの枠組みを整備中であり、日本の医療機関も最新ガイドラインを継続的に確認し、院内ルールに反映させることが重要である
• 在宅・介護分野での特別な注意：意思決定能力が低下した患者への同意取得・介護スタッフによるAI活用時の医師連携体制など、特有の倫理的・実務的課題への対応が求められる
• 医療法人鳳應会の姿勢：テクノロジーは患者さんの人生を支えるための道具であり、AIに「任せる」のではなく、人間の医師がAIと「協働する」という姿勢で地域医療に貢献し続ける

医療AIの活用や在宅医療・オンライン診療について不安や疑問をお持ちの患者さん・ご家族、また医療DX導入を検討されている医療機関・介護事業者の皆さまは、ぜひ医療法人鳳應会へご相談ください。北海道の地域医療を守るため、私たちは誠実な情報発信と実践を続けてまいります。