AIの自動判定に納得できないとき、説明や人の再確認をどう求める?
英国の情報コミッショナー事務局(ICO)は、自動処理だけで行われた判断について、本人が説明や人による介入、異議申立てを求める方法を案内しています。例としてオンライン融資審査や、人の関与なしに行う採用適性テストが挙げられています。ただし、この案内はData (Use and Access) Actによる変更を受けて見直し中で、最終的な改定版は2026年冬の予定です。記事では現行法上の権利を断定せず、判断の自動化の有無、理由・影響、再確認や苦情の窓口を組織へ尋ねるための実務的な確認手順として紹介します。英国の制度案内であり、日本の法制度や個別ケースへそのまま当てはめることはできません。
- 英国で融資・採用などの自動判定を受けた人
- AIによる審査結果の確認・異議申立てを考えている人
ICOの案内は法改正を受けて見直し中です。英国の制度に関する情報として、現在の適用条件を公式ページで確認してから利用してください。
身近な事例を知る
融資や採用の結果が自動で決まり、理由が分からない
オンライン融資の申込みが否決された、または採用選考の適性テストで不合格になったものの、どの情報が使われ、誰が判断したかが見えません。
あなたならどうする?
まず一つ以上選んでから確認してみてください。
推奨される行動- 判断が自動処理だけで行われたかを尋ね、理由と再確認の窓口を文面で確認する
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
ICOの案内を読む場合も、まず自動処理だけで決まったか、判断理由や利用情報、再検討の窓口は何かを組織に確認します。案内が改定中であることを踏まえ、現在の英国法上の適用条件はICOの最新情報や専門家に確認してください。
確認ポイント
判断に人が関与したか
ICOは、オンライン融資の判断や、事前設定された基準による採用適性テストを自動処理だけの判断例として挙げています。実際の案件について、単にAIを使ったのか、最終判断も自動だったのかを組織へ確認します。
理由・利用情報・影響を尋ねる
ICOの案内は、組織が自動処理の利用、使用情報、判断理由や本人への影響を説明することを示しています。回答を保存し、誤った入力情報がないか確かめます。
人による確認と異議申立ての経路
案内ページには、人の介入、本人の意見表明、決定への異議申立ての手段が記されています。どの窓口が現在利用可能かを確認し、口頭で伝えた場合も希望する解決策や根拠を文書で残します。
案内の改定状況と適用地域
ICOはData (Use and Access) Actによる変更を受けてページを見直し中と明記し、最終版の予定を2026年冬としています。これは英国の案内で、日本の法律や日本国内の個別審査に適用される権利の説明ではありません。
不満が残る場合の苦情先
ICOは、まず判断を行った組織へ苦情を申し立て、その対応に不満が残る場合はICOへ申し立てる順序を示しています。実際の窓口や期限は現行ページで再確認します。
現時点での見立て
ICOの公開案内は説明や人による介入を求める手順を示しますが、ページ自体が法改正後の見直し中です。現行の権利を断定せず、英国の利用者向け確認ガイドとして使います。
安全な対処方法
安心につながる行動
- 判断が自動処理だけで行われたか、人がどの段階で関与したかを組織へ尋ねるAIが補助に使われただけなのか、判断自体が自動だったのかを区別できます。
- 使用された情報、判断理由、本人への影響、再確認や異議申立ての窓口を文面で確認する回答と依頼内容を後から照合でき、誤情報や説明不足を具体的に伝えられます。
- 口頭で依頼した場合は、日付・内容・希望する解決策を記した書面を続けて送るICOは書面でのフォローアップが説明や証拠を残す助けになると案内しています。
- ICOの改定状況と現行の案内を確認し、必要に応じて英国の専門家へ相談するData (Use and Access) Actを受けて案内の更新が進行中だからです。
- 日本の審査や雇用の場面では、日本の公的窓口や専門家の案内を別途確認するICOの説明は英国の制度に関するもので、日本の法的結論を示しません。
避けたい行動
- 見直し中のICOページだけを根拠に、現在の英国法上の権利や期限を断定するICO自身が法改正を受けた更新作業中と表示しています。
- 英国ICOの案内を日本の法律や企業の審査にそのまま当てはめる管轄・法令・手続きが異なります。
- 異議申立てをする前に、組織の回答や申請に使った情報を保存せず削除する経緯と訂正したい情報を示しにくくなるため、回答・通知・依頼記録を保管します。
AIの前向きな活用
自動判定への問い合わせを具体化する
「AIを使っていますか」だけで終わらせず、誰が最終判断したか、どの情報が使われたか、どこで再確認を求められるかを順に尋ねます。
- 融資否決の決定過程を確認する
- 採用テストの評価情報を尋ねる
- 人による再確認を依頼する
- 組織への苦情とICOへの相談経路を確認する
今回、覚えておきたいこと
自動判定に疑問があれば、誰が決めたか・理由・再確認先を文書で尋ね、見直し中の英国案内を現行法の断定に使わない。
情報源
- Your rights relating to decisions being made about you without human involvement(外部リンク) Information Commissioner's Office (ICO) 官公庁
- Technology(外部リンク) Information Commissioner's Office (ICO) 官公庁
誠主任からひとこと