AI用語のカテゴリー: AIの評価・安全・倫理・ガバナンス

Toxicity Evaluationは、AIが生成・分類するテキストなどに、侮辱、ヘイト、脅迫、露骨な攻撃性、差別的表現などの「有害・有毒… 「続きを読む」

Regression Testing（回帰テスト）とは、モデルやソフトウェア、プロンプト、データ処理などを変更した後に、以前うまく動いていた… 「続きを読む」

Uncertainty Estimation（不確実性推定）は、AIの予測や生成について、どの程度不確かであるかを定量化しようとする考え方で… 「続きを読む」

Continuous Evaluationとは、AIシステムを一度だけ評価して終わりにせず、変更・運用・環境変化に合わせて評価を繰り返し、品… 「続きを読む」

AI Safety（AI安全性）は、AIシステムが人や組織、社会、環境などに不合理な危害を与えるリスクを減らし、安全に設計・評価・運用するた… 「続きを読む」

Recallは二値分類で、本当の陽性をどれだけ取りこぼさず検出できたかを表す指標です。日本語では再現率と呼ばれ、True Positive … 「続きを読む」

Capability Evaluationとは、AIモデルやシステムが、定義された条件と支援のもとで「どのような課題をどの程度こなせるか」と… 「続きを読む」

AIアライメント（AI alignment）は、AIシステムの挙動・目的・判断が、人間の意図、価値、規範、許容範囲と整合するようにする問題で… 「続きを読む」

F1スコアはPrecisionとRecallのバランスを一つの数で表す分類評価指標です。二値分類では、PrecisionとRecallの調和… 「続きを読む」

Safety Evaluationとは、AIシステムが特定の利用条件で生み得る危害やsafety-relevantな能力、失敗、safegu… 「続きを読む」