AI用語のカテゴリー: AIの評価・安全・倫理・ガバナンス

データ倫理とは、データを収集・生成・共有・分析・保存・廃棄し、AIや意思決定に利用する際に、法令順守だけでなく、プライバシー、公平性、透明性… 「続きを読む」

XAIはExplainable Artificial Intelligence、つまりExplainable AIの略です。AIの出力や判断… 「続きを読む」

Guardrails（ガードレール）は、AIシステムが許容範囲を外れた入力・出力・行動をしないように、利用前・処理中・出力後・ツール実行時な… 「続きを読む」

「AIと著作権」という言葉は、ひとつの法律問題を指しているように見えます。ところが実際には、少なくとも「AIを学習させるときに著作物を使える… 「続きを読む」

Interpretabilityは日本語で「解釈可能性」と呼ばれます。AIの出力が、システムの目的や利用文脈の中で何を意味し、人間がそれをど… 「続きを読む」

敵対的攻撃とは、攻撃者がAI／機械学習システムの弱点を意図的に突き、入力・学習データ・モデル・外部リソースなどを操作して、誤作動、情報漏えい… 「続きを読む」

Data Sovereignty（データ主権）は、クラウドや生成AIの導入で急に目にする機会が増えた言葉です。直訳すると「データの主権」です… 「続きを読む」

メカニスティック解釈可能性（mechanistic interpretability）は、ニューラルネットワークの内部でどの要素が、どの情報… 「続きを読む」

Prompt Injectionとは、アプリ設計者など高信頼側の指示と、ユーザー入力など低信頼側の内容が同じコンテキストで処理される性質を悪… 「続きを読む」

AI Risk Management（AIリスクマネジメント）とは、AIシステムによって起こり得る望ましくない影響を、利用する文脈に即して見… 「続きを読む」