AIとの向き合い方

何を入れて、何を入れないか。先に決めておく。

使い始める前に、院内で一度だけ決めておくべきことがあります。難しい話ではありません。ただ、決めずに始めると、後から戻すのが大変になります。

入力したものは、学習に使われることがあります

まず、仕組みの話から確認します。

多くのサービスは、利用者が入力した内容を、性能改善のために利用する設定が初期状態で有効になっています。これは隠されているわけではなく、設定画面で切り替えられるようになっています。ただ、初期状態がどうなっているかを確認しないまま使い始める方が多い、というだけの話です。

個人情報保護委員会も、生成AIサービスの利用について注意喚起を出しています。個人情報を含む入力をする場合は、その情報を取得したときの利用目的の範囲内かどうかを確認するように、という趣旨のものです。

医療機関の場合は、これに加えて医療情報システムの安全管理に関するガイドラインの考え方も関わってきます。院内でどう扱うかを決めるときは、この二つを踏まえておくと判断がぶれません。

細かいルールをたくさん作ると、誰も覚えません。私は一つだけ決めることをお勧めしています。

個人が特定できる情報は、外部のサービスに入れない。

患者様のお名前、連絡先、生年月日、カルテ番号。スタッフの氏名や評価。これらはそのまま入れない、と決めます。

そして、入れたい場合は一般化してから入れる。「50代の女性で、こういう主訴の方」まで抽象化すれば、相談としては十分に成立します。実務上、これで困る場面はほとんどありません。

もちろん、パスワードやクレジットカードの情報を入れないのは論外として、これは言うまでもないことだと思います。

院長先生が一人で使っているうちは、判断は自分の中で完結します。スタッフに開放した瞬間に、これは組織のルールになります。

「便利だから使ってみて」とだけ伝えて広めると、事故が起きます。悪意ではなく、単に知らなかった、という形で起きます。

ですので、使ってもらう前に、この一つの線引きと、その理由を伝えてください。理由まで伝えると、応用が効きます。ルールだけ伝えると、想定外の場面で判断できません。

線引きを決めたら、あとは設定を一度見ておくだけです。

多くのサービスには、入力内容を性能改善に使うかどうかの設定があります。業務で使うのであれば、これを切っておくのが基本です。法人向けの契約では最初から使われない設計になっていることも多いので、その場合は確認だけで済みます。

作業としては数分です。ただ、この数分を飛ばしたまま院内に広めると、後から戻せません。入ってしまったものを取り消すことは、基本的にできないからです。

口頭で伝えたルールは、伝えた人が辞めた時点で消えます。これは、この記事全体を通じて言えることでもあります。

院内のルールを置いている場所に、一項目として書いておいてください。何を入れてよくて、何を入れないのか。なぜそうするのか。設定はどうしてあるのか。

分量は、数行で足ります。長い規程は誰も読みません。読まれるのは、短くて、探せる場所にあるものだけです。

起きうることなので、先に書いておきます。

悪意なく、うっかり患者様のお名前を入れてしまうことはあります。そのとき隠されるのがいちばん困ります。だから、報告しても叱られない、という前提を先に作っておいてください。

私の医院では、これはクレーム対応と同じ扱いにしています。起きたこと自体は責めない。報告がなかったことは問題にする。この線引きを最初に伝えておくと、情報が上がってくるようになります。

そのうえで、履歴の削除や設定の見直しといった対応を取ります。手順を決めておけば、慌てずに済みます。

院内で使う分には、ここまでの線引きで足ります。ただ、ホームページやSNSに出す文章となると、話が変わります。

医療広告ガイドラインがあるからです。患者様の体験談は原則として掲載できません。治療前後の写真も、必要な説明を伴わずに並べることは認められていません。厚生労働省のネットパトロールでは、この種の違反が毎年多数報告されています。

ここで気をつけたいのは、こうした文章の下書きを任せたときです。一般的な広告表現としては自然でも、医療では使えない言い回しがあります。何も伝えずに書かせると、そこに引っかかるものが混ざります。

対策は単純で、ガイドラインを先に読ませたうえで書かせることです。そのうえで、最後に人が確認する。この二段構えにしておけば、実務上はほぼ防げます。スタッフに投稿を任せている医院ほど、この型を用意しておく価値があります。

ここまで書くと、面倒に聞こえるかもしれません。実際は逆です。

線引きが曖昧なままだと、使うたびに「これは入れていいのだろうか」と考えることになります。そして、考えるのが面倒になって使わなくなる。あるいは、考えずに入れてしまう。どちらも良くありません。

最初に一度決めておけば、あとは迷いません。決めるのに必要な時間は、せいぜい30分です。その30分で、その後ずっと安心して使えるようになります。