AIが「救急へ行って」と言ったら従えば安全？ FDA最新議論が示す“受診を勧めすぎるAI”にもあるリスク
2026年8月18日、米食品医薬品局（FDA）は、生成AIを搭載した医療機器の評価方法について議論するディスカッションペーパーを公開しました。そこで扱われたのが、救急医療を受けるべきかを判断するAIのトリアージ機能です。FDAは、必要なのに受診を勧めないunder-escalationだけでなく、必要性が低い状況でも救急受診を繰り返し勧めるover-escalationもリスクになり得ると指摘しています。この文書は規制案や最終ガイダンスではなく、今後の評価方法について意見を求める議論用文書です。
- ChatGPTなどへ症状を相談する人
- AI搭載の健康アプリや医療サービスを利用する人
- 家族の症状についてAIへ相談する人
- AIのトリアージ機能に興味がある人
- 医療AIを安全に活用したい一般ユーザー
健康相談AIを見る時は、危険な症状を見逃さないかだけでなく、必要以上に不安を高めたり過剰な受診へ誘導したりしないかも確認してください。AIの回答は次の確認行動を考える材料として使い、診断や緊急性の最終判断をAIだけで完結させないことが重要です。
身近な事例を知る
軽い症状をAIへ相談したら、毎回「すぐ救急外来を受診してください」と返ってきた
最初は安全側の回答だから良いAIだと考えました。しかし何度相談しても強い受診勧告が返ってくるため、不安になり、必要性が分からないまま救急外来へ行くことを繰り返しそうになっています。FDAのディスカッションペーパーでは、必要な受診を勧めない方向だけでなく、臨床的に必要でない受診を過剰に勧める方向も評価すべきリスクとして取り上げています。
あなたならどうする？
まず一つ以上選んでから確認してみてください。
推奨される行動- 重要な注意信号として受け取り、適切な医療窓口へつなぐ
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
FDAの文書では、必要な受診を勧めないことと、必要性が低い受診を過剰に勧めることの両方を評価対象として考える必要性が示されています。AIの回答を診断や最終判断として扱うのではなく、医療専門家へ確認した方がよい可能性を示す信号として利用するのが適切です。強い症状、急速な悪化、意識障害、呼吸困難など緊急性が疑われる状況では、AIとの会話を続けず地域の救急サービスや医療機関へ直接つなぐことが優先されます。
確認ポイント
AIが「情報提供」から「行動指示」へ変わっていないか
一般的な健康情報を示す機能と、「救急へ行く」「薬の量を変更する」といった具体的な行動を指示する機能ではリスクが異なります。
受診を勧めない方向だけを危険だと思っていないか
必要な受診を勧めないunder-escalationは治療の遅れにつながる可能性がありますが、over-escalationにも別のリスクがあります。
「救急へ行け」と言う回数が多いほど安全なAIだと思っていないか
過剰な受診勧告は、不安、不要な検査や処置、救急医療への負担などにつながる可能性があります。
会話の途中でAIの役割が変化していないか
複数ターンの会話では、最初は一般情報を伝えていたAIが途中から具体的な行動を指示する状態へ移行する可能性があります。
一般向けチャットボットと医療機器として設計されたAIを同じものとして見ていないか
FDAはAIそのものを一括して医療機器として規制しているわけではなく、製品の目的や機能に応じて扱います。
AIの一回の回答だけで性能を判断していないか
生成AIは同じような入力でも出力が変わる可能性があります。複数ターン会話や多様な状況を含む評価が必要です。
FDA文書を最終ルールとして扱っていないか
2026年8月18日の文書は議論と意見募集のためのディスカッションペーパーであり、最終ガイダンスではありません。
現時点での見立て
FDAの文書は、生成AIによる医療トリアージを「見逃しを減らせば安全」と一方向だけで捉えていません。必要な救急受診を勧めないことは重大なリスクですが、何でも救急へ誘導すれば良いわけでもありません。AIを健康相談に使うこと自体を避ける必要はありません。症状の整理、受診時に伝える内容の整理、確認すべき質問の準備などに使いながら、受診判断が重要になる場面では人間の医療体制へ適切に接続する使い方が現実的です。
安全な対処方法
安心につながる行動
- AIへ症状を相談する時は、経過を整理する用途にも使うAIを診断者ではなく、医療機関へ伝える情報を整理する補助として活用できます。
- 強い受診勧告が出た場合は、回答だけで完結させず適切な医療窓口へ確認するAIの勧告を重要な信号として利用しつつ、人間の医療判断へ接続できます。
- 緊急性が疑われる強い症状や急速な悪化がある場合は、地域の救急サービスへつなぐ時間が重要な状況では、追加のAI回答を待つこと自体がリスクになる可能性があります。
- AIに「緊急度を断定して」ではなく「医療機関へ伝える情報を整理して」と依頼する生成AIが得意な情報整理を利用しながら、高リスクな最終判断を人間側に残せます。
- AIの回答が不安を強め続ける場合は、人間へ相談する質問を繰り返すより、医療専門家や相談窓口へ確認した方が状況を前へ進めやすくなります。
避けたい行動
- AIが救急を勧めたので、自分の状況を確認せず毎回救急外来を利用する受診勧告の過剰化も評価すべきリスクの一つです。
- 以前AIが大げさだったので、次に出た強い警告も無視する過剰な受診勧告が存在することと、今回の症状に緊急性がないことは別です。
- 安心できる回答が出るまで同じ症状を何度もAIへ聞く生成AIの出力のばらつきを利用して、自分が望む結論を選ぶことになります。
- 一般用途の生成AIを、医療機器として評価された専門AIと同じものとして扱う利用目的、検証方法、規制上の位置付けが異なる可能性があります。
- FDAの議論用文書を正式な規制ルールとして紹介する今回の文書は意見募集を目的とするディスカッションペーパーです。
AIの前向きな活用
AIを「救急判定機」ではなく「受診前の情報整理係」として使う
健康相談で生成AIが役立ちやすいのは、診断を確定することより、症状や経過を整理して人間の医療につなぐ部分です。「いつ始まったか」「悪化しているか」「医師へ何を伝えればよいか」を整理したり、受診時に聞きたい質問をまとめたりできます。AIに任せる範囲を情報整理までにするだけでも、便利さを活かせます。
- 症状の経過を時系列に整理してもらう
- 医師へ伝えた方がよい情報を一覧化してもらう
- 服用している薬や既往歴を受診用メモへ整理する
- 診察前に聞きたい質問を短くまとめてもらう
- AIの回答で不安になった点を整理して相談窓口へ伝える
今回、覚えておきたいこと
医療AIは「心配なら全部救急」が正解ではない。安全とは、必要な時に適切な次の行動へつなぐこと。
情報源
- FDA Seeks Public Feedback to Inform Regulatory Approach for Generative AI-Enabled Medical Devices（外部リンク） U.S. Food and Drug Administration 官公庁
- Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback（外部リンク） U.S. Food and Drug Administration 官公庁
- Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper（外部リンク） U.S. Food and Drug Administration 官公庁
- Artificial Intelligence-Enabled Medical Devices（外部リンク） U.S. Food and Drug Administration 官公庁
誠主任からひとこと