顔認識におけるプライバシーと人による確認

統制できるほど狭い目的とは何か。

「セキュリティのため」という目的は検証できないため、何も制約しません。統制できるほど狭い目的は、対象、場所、契機、動作を明示します。そのそれぞれが、後の利用を明確に範囲内か範囲外かに分けます。

• 誰が登録され、どのような根拠で登録されたか。入館の条件として同意した従業員と、同意していない一般の来訪者は、異なる対象群です。
• どこで認識を動かすか、カメラ単位で。「建物」は場所ではありません。特定の扉が場所です。
• 何が警報の契機となり、システムがそれをどう扱うか。人を介さずに動作できるかどうかを含みます。
• 登録がどれだけ続き、何によって解除されるか。誰も抜けられない登録データは、承認されたものとは別のシステムに育ちます。

目的が適切に定められているかの試金石は、近接した用途への転用の要請、たとえば行方不明者の捜索、勤怠の確認、窃盗の調査といった要請に、交渉ではなく文書から答えられるかどうかです。毎回交渉が必要なら、その目的は統制として広すぎたということです。

生体データはどれだけ保存すべきか。

既定は、カメラで取得した顔画像は照合が完了した時点で破棄し、結果のみを保持することであるべきです。多くのシステムは必要以上に保持していますが、その理由はたいてい、誰も別の指定をしなかったからです。

1. 混同されがちな3つを分けます。登録テンプレート、取得した照合用画像、照合記録。それぞれ寿命もリスクも異なります。
2. 照合用画像は既定で破棄します。調査のために保持する場合は、期間を日数で定め、方針ではなくコードで強制します。
3. テンプレートは、その人物にアクセス権がある期間だけ保持します。削除は意図ではなく、責任者のいる実際の手続きとします。
4. 照合記録、すなわち誰が、いつ、どのカメラで、どのスコアで、何が起きたかは、監査義務が求める期間保持します。保持する価値があるのはこれです。
5. テンプレートは保管時に暗号化し、写真でなくとも生体データであることを明確にします。テンプレートのデータベースが盗まれれば、見た目がどうであれ漏えいです。

短い保存期間は、開示請求や削除請求に対する最も強い回答でもあります。見つかるものが少なく、争点も少なくなるからです。すべてを保持する設計のシステムは、後のあらゆるガバナンス上の問いを、本来より難しくします。

人による確認はなぜ機能しなくなり、何が解決するのか。

人による確認は、最も多く引き合いに出され、最も設計されていない統制です。その失敗の様相は特有で、よく知られています。高い確信度の照合結果を示され、後ろに列があり、しかもそのシステムはたいてい正しい。そのとき担当者は、時間に追われながら機械に異を唱えよと求められています。人はガバナンス文書が想定するほど頻繁にはそれをしません。

• スコアを主役として表示しないこと。98という数値は、担当者が顔を見る前に判断を固定します。
• 2枚の画像を比較できる大きさで並べて示し、それを主たる画面とすること。クリックの先の詳細表示にしないこと。
• 「判断できない」と言える選択肢を、却下とは別に用意すること。時間に追われる状況で二択を強いれば、機械への同意が生まれます。
• 担当者を処理量だけで評価しないこと。測られたものが最適化の対象になり、処理量は同意することを最適化します。
• 担当者の判断をシステムの出力とは別に記録し、両者を比較できるようにすること。両者が一度も食い違わないなら、その確認は統制として機能していません。

最後の項目が、人による確認を主張から測定へ変えます。人が事実上つねにシステムに同意する確認工程は、監督を加えているのではなく、署名を加えているだけです。

監査ログには何を記録すべきか。

監査ログは、その場にいなかった誰かが数か月後に発する問いに答えるために存在します。これは不具合調査のための記録より高い水準であり、記録すべき事項も変わります。

ログ自体が機微情報です。誰が誰を探したかを記録しているからです。ログへのアクセスには独自の統制が必要であり、その判断を記録されている当の担当者が読めるべきではありません。

EU AI法は何を、いつ求めるのか。

EU AI法は、欧州で事業を行う組織にとってこの分野で最も影響の大きい規制であり、その義務は一度にではなく段階的に発生します。枠組みと適用時期は欧州委員会が公表しています。以下の要約は助言として言い換えるのではなく、その出典を指し示すものです。

• 法執行を目的とした、公衆がアクセス可能な空間でのリアルタイム遠隔生体識別は、狭く定められた例外を除き禁止されています。
• その他の多くの生体識別の用途は高リスクに分類され、リスク管理、データガバナンス、ログ記録、人による監督、精度の文書化に関する義務が生じます。
• 義務は2025年に始まる期間にわたって段階的に適用されるため、順守すべき期日は該当する分類によって異なります。
• これは要約であり、法的助言ではありません。特定の導入がどの分類に当たるかは、その導入に関する法的判断です。

• 欧州委員会 — AIの規制枠組み法そのもの、リスク分類、適用時期を公表している機関による情報です。

EU域外では状況は分断されており、実務上の帰結として、事業を行う地域のうち最も要求の緩い法域だけを想定して設計したシステムは、作り直しが必要になります。事業範囲全体で最も厳しい要件に合わせて設計するほうが、たいていは安上がりです。

購入側はベンダーに何を求めるべきか。

1. 処理がどこで行われるかを正確に。オンプレミス、エッジ、エアギャップのいずれかでデータ保護上の分析は全く変わります。この答えは図ではなく契約にあるべきです。
2. テレメトリ、障害報告、モデル改善用データを含め、データが現場外に出るかどうか。「通信は暗号化されています」は、データがどう運ばれるかの説明であり、運ばれるべきかどうかの答えではありません。
3. 顧客のデータがベンダーのモデルの学習や改善に使われるかどうか、そしてサポートを失わずに拒否できるかどうか。
4. 契約終了時の削除。期間を定め、実施された証跡を伴うこと。
5. 公表された精度の数値ではなく、購入側の現場での試験導入で文書化された誤り率。そして導入後に再試験できること。
6. 監査ログの内容と、誰が読めるか。ベンダーが読めるかどうかを含みます。

Ayonixもこの一覧に照らして判断されるべきです。ベンダーが公表しながら自らを除外する枠組みは、単なる宣伝です。文書にする意義は、購入側がそれを当社との交渉に使えるという点にあります。