AI Impact Assessment

AI Impact Assessment（AI影響評価）は、AIシステムを導入・利用することで、個人、集団、組織、社会にどのような望ましい影響・望ましくない影響が生じ得るかを、導入前や運用中に体系的に洗い出し、評価し、記録するプロセスです。単なる性能テストではなく、利用文脈、影響を受ける人、基本的権利、公平性、安全、プライバシー、労働、環境などを含む広い影響を考えます。

リスク評価との違い

AI Impact AssessmentはAI Risk Assessmentと重なる部分がありますが、視点が少し違います。リスク評価は、望ましくない事象の発生可能性と影響度を評価し、リスクを低減することに重点を置きます。影響評価は、リスクだけでなく、誰にどのような影響が及ぶか、便益と不利益がどう分配されるか、社会的・倫理的・権利上の影響があるかまで含めて考えることがあります。

実務では両者が同じ手続きの中で行われることも多いため、文書名だけで区別せず、その評価項目と対象範囲を見る必要があります。

ISO/IEC 42005:2025が示す考え方

ISO/IEC 42005:2025は、AIシステム影響評価のための国際規格です。AIシステムや予見可能な利用が、個人、集団、社会にどのような影響を与え得るかを理解し、評価し、文書化するためのガイダンスを提供します。

重要なのは、影響評価を導入前の一回限りにしない点です。ISOは、設計・開発、導入、運用、監視を含むAIシステムのライフサイクルを通じて評価を行い、必要に応じて更新することを勧めています。AIの用途や利用者、モデル、データ、法制度が変われば、同じシステムでも影響は変化するからです。

EU AI ActのFundamental Rights Impact Assessment

EU AI Actには、一般的なAI Impact Assessmentとは別に、特定の高リスクAIについてFundamental Rights Impact Assessment（基本的権利影響評価）を求めるArticle 27があります。対象となる一定の導入者は、システムをどの業務で使うか、どの程度の期間・頻度で使うか、影響を受ける人や集団は誰か、どのような権利上の損害リスクがあるかなどを評価する必要があります。

ここで重要なのは、「AI影響評価」という一般用語と、特定法令で定義された法的手続きは同じではないことです。ニュース記事でImpact Assessmentと書かれていたら、ISOのような任意規格なのか、企業の自主的評価なのか、EU AI ActのFRIAのような法的義務なのかを確認する必要があります。

何を評価するのか

影響評価では、まず利用目的と文脈を明確にします。同じ顔認識モデルでも、スマートフォンの写真整理と公共空間での監視では、影響の大きさと種類が大きく異なります。

次に、影響を受ける主体を特定します。直接の利用者だけでなく、AIの判断対象になる人、データに含まれる人、現場従業員、特定の集団、地域社会なども含まれます。

その上で、想定される便益と不利益を洗い出します。公平性、差別、プライバシー、安全性、セキュリティ、説明可能性、アクセス格差、労働条件、環境負荷、自由や権利への影響などが対象になり得ます。

最後に、影響を減らすための対策、残余リスク、監視指標、再評価条件、責任者を決めます。評価書を作って終わりではなく、その後の意思決定に使うことが重要です。

誰を評価プロセスに入れるか

影響評価は開発チームだけで完結させると、見落としが起こりやすくなります。技術担当者はモデルの構造には詳しくても、現場の運用慣行や、影響を受ける人の経験を十分に知らないことがあります。

そのため、法務、リスク、セキュリティ、業務担当、アクセシビリティ、労務、倫理、対象分野の専門家、必要に応じて影響を受ける当事者や外部専門家など、多様な視点を入れることが有効です。影響評価は「技術評価」だけでなく「社会技術的評価」です。

元の企業文書や規制文書へ戻ったときの読み方

「AI Impact Assessmentを実施した」と書かれていたら、まず対象システムと用途を確認します。汎用モデル全体を評価したのか、特定の導入用途を評価したのかで結果の意味が違います。

次に、誰への影響を評価したかを見ます。顧客だけでなく、非利用者、従業員、少数集団、子ども、障害者など、影響を受けやすい人々が含まれているかが重要です。

さらに、評価時点、再評価条件、対策、残余リスクが記載されているかを確認します。「影響を評価しました」という宣言だけでは、実際に何が変わったか分かりません。導入中止、利用範囲制限、追加監督、モデル変更、データ改善など、評価結果が意思決定にどう反映されたかを見るべきです。

よくある次の誤解

一つ目は、「影響評価をした＝安全と認定された」という誤解です。影響評価は問題を発見し、意思決定や対策に反映するプロセスであり、安全保証書ではありません。

二つ目は、「モデルそのものの性質だけを評価すればよい」という誤解です。AIの影響は利用文脈で変わるため、同じモデルでも採用、医療、教育、娯楽では評価内容が違います。

三つ目は、「導入前に一度作れば終わり」という誤解です。モデル更新、対象利用者の変化、新しい事故、制度変更などで影響は変わるため、再評価が必要です。

実務で確認するチェックリスト

AI Impact Assessmentを見るときは、①対象AIと具体的用途、②影響を受ける人・集団、③便益と不利益の両方、④公平性・権利・安全・プライバシー等の評価範囲、⑤影響の大きさと発生可能性、⑥緩和策と残余リスク、⑦誰が評価に参加したか、⑧結果が導入判断や運用条件に反映されたか、⑨いつ再評価するか、を確認するとよいでしょう。

要するにAI Impact Assessmentは、AIの「性能が良いか」を測るだけでなく、そのAIをその場所で使ったときに、誰にどんな影響が起こり得るかを事前・継続的に検討し、対策と意思決定につなげるための評価プロセスです。

関連するAI用語

• AIにおける説明責任
• Human Oversight
• AI Audit

注・出典

本文制作時に参照した主な資料：^{[1] [2] [3]}

1. ISO/IEC 42005:2025 AI system impact assessment ↩
2. EU AI Act consolidated text Article 27 ↩
3. OECD AI Principle: Accountability ↩

AI協働制作について