AIを活用した医療支援システムが普及するにつれ、避けて通れない問いがある。AIの提案に基づいて行われた医療行為で事故が起きた場合、誰が責任を負うのかという問題である。
「AIがそう提案したから」という説明は、患者やその家族、行政、裁判所のいずれに対しても、責任の所在を示す言葉にはならない。AI開発会社が責任を負うのか、医療機関が負うのか、それとも現場の医師や看護師が負うのか。この整理がないまま、多くの医療AIが現場に導入されている。事故が起きてから責任の所在を議論しても、患者を守ることはできない。
責任構造の設計とは、この問いに事前に答えを用意しておくことである。AIはあくまで提案を行い、最終的な確認と決定は必ず人間が行う。誰が、いつ、どの提案を確認し、どのような理由で承認したかを記録に残す。この仕組みがあれば、事故が起きた際にも「誰が何を確認し、何を決定したか」を構造的に説明できる。
株式会社リバイバルマネジメントは、医療AI事故における責任の所在を明確にするための構造を特許として設計し、訪問看護分野での実装を進めている。AI医療事故の責任は、起きてから議論するものではなく、導入前に設計しておくべきものである。