Claudeに実機を動かさせるなら、「停止して」という指示だけでは足りない
Anthropicは2026年10月9日の確認時点で、11月12日発効の新しいUsage Policyを公開しています。規約ページの公開日は不明です。人の負傷につながり得る機器をClaudeの出力で人の承認なしに動かす対象用途では、適格者が監視して停止できること、接続喪失時に停止または安全状態を保つこと、モデル出力から独立した制限が求められます。これは発効前の利用規約の要件であり、機器の安全認証や法令の代わりではありません。
- AIを機器やロボットへ接続する人
- 研究・制作・業務で実機の自動操作を検討する人
実機をAIで自動操作する時は、AIの外に停止手段・通信断時の安全状態・独立した制限を置く。
身近な事例を知る
Claudeの出力を、ロボットや温度制御の操作へつなぎたい
プロンプトに『危険なら停止する』と書いて、自動操作を試そうとしています。
あなたならどうする？
まず一つ以上選んでから確認してみてください。
推奨される行動- 人が止められ、接続喪失時も安全状態になり、機器側の独立した制限が働く設計
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
実機をAIで自動操作する時は、AIの外に停止手段・通信断時の安全状態・独立した制限を置く。
確認ポイント
発効日は11月12日
公開されている新Usage Policyの発効日は2026年11月12日です。10月9日時点で発効済みの新要件として扱わず、導入準備の確認材料にします。
対象は負傷につながり得る自動の物理動作
人の承認なしに機器が出力を実行し、共有空間の移動、危険な力や熱などの制御、安全設備の操作などができる用途が対象です。すべての家庭用機器に一律に同じ要件を掛ける説明ではありません。
人の監視と停止を確保
適格な人が機器の動作を観察し、いつでも止められる必要があります。その人が介入した時、またはサービスとの接続が失われた時に、機器は停止するか安全状態を保持します。
制限はAIの外で強制する
速度、力、温度、圧力、電圧、作動範囲などの制限は、モデル出力とは独立した機器または制御装置で強制します。文章でのお願いだけではこの条件を満たしません。
例外と法令は別に確認
メーカーの安全制限内で最悪でも不便にとどまる家庭用機器、人が実行前に確認する計画・コード、操作せず監視のみの用途などは規約上の除外例です。規約は機械・職場などの安全法令や認証を置き換えません。
現時点での見立て
機器が実際に止まる仕組みは、AIへの文章指示とは別に必要です。
安全な対処方法
安心につながる行動
- 自動実行の有無と故障時の影響を整理して対象条件を確認する機器をつなぐだけで対象かどうかは決まりません。
- 適格者と機器担当者で停止・通信断時の状態を設計するAIが応答できない場合にも安全を保つためです。
- 制限値をモデルとは独立した制御で強制するAI出力が制限を変更できない構成が必要です。
避けたい行動
- 安全指示をプロンプトに書くだけで実機を自動運転する文章指示は機器の停止や制限の強制とは異なります。
- Claude利用規約への対応を機器の安全認証とみなす適用法令や安全認証は別に必要です。
AIの前向きな活用
説明や計画の支援から、安全な接続範囲を検討する
いきなり実機の自動操作へ進めず、適格者による実行前確認や操作しない監視も選択肢にします。
- 機器の状態説明だけをAIに頼む
- 動作計画を実行前に担当者が確認
- 通信断時の安全状態を機器担当者と定義
今回、覚えておきたいこと
実機をAIで自動操作する時は、AIの外に停止手段・通信断時の安全状態・独立した制限を置く。
情報源
- Usage Policy（外部リンク） Anthropic 公式発表
誠主任からひとこと