AI用語のカテゴリー: AIの評価・安全・倫理・ガバナンス

AIにおける透明性（transparency）は、AIシステムについて「何が使われているのか」「どのような目的で使われるのか」「どんな能力と… 「続きを読む」

Indirect Prompt Injectionとは、攻撃者がAIへ直接プロンプトを送るのではなく、Webページ、文書、メール、検索結果な… 「続きを読む」

NIST AI RMFは、米国国立標準技術研究所（NIST）が公開しているArtificial Intelligence Risk Mana… 「続きを読む」

AIにおける説明責任（accountability）は、AIシステムの設計・開発・導入・運用によって生じる結果について、誰が何を担い、どの判… 「続きを読む」

Jailbreakとは、生成AIに設けられた出力制限や拒否挙動などの安全上の制約を、巧妙な入力によって回避し、本来拒否されるはずの出力や利用… 「続きを読む」

EU AI Act（EU人工知能法）は、欧州連合でAIの開発・提供・利用を規律する包括的なEU規則です。正式にはRegulation (EU… 「続きを読む」

Human Oversight（人間による監督）は、AIシステムを人間がただ「見ている」ことではなく、AIの能力と限界を理解した上で運用状況… 「続きを読む」

Data Poisoningとは、攻撃者が学習データの一部を意図的に操作・混入し、学習後のAIモデルの性能、特定入力への挙動、バイアス、安全… 「続きを読む」

GPAIはGeneral-Purpose AIの略で、日本語では「一般目的AI」と訳されます。特にEU AI Actの文脈では、genera… 「続きを読む」

AI Audit（AI監査）は、AIシステムや、それを開発・導入・運用する組織について、定められた基準や目的に照らして、設計、データ、性能、… 「続きを読む」