AIの本と用語検索

イコライズド・オッズ

イコライズド・オッズは、AIモデルの公平性を評価するための主要な基準の一つであり、特に機械学習におけるバイアスの是正を目指す公正性制約として提唱されています。

この基準が満たされるためには、保護された属性(例えば人種や性別など)の各グループにおいて、真のクラスが陽性である場合の真陽性率 (True Positive Rate, TPR) と、真のクラスが陰性である場合の偽陽性率 (False Positive Rate, FPR) が、それぞれ同等であることが要求されます。

具体的に述べると、モデルが保護された属性を持つ個人に対して、同一の性能特性を示す必要があるということです。つまり、例えば特定の疾患の予測モデルであれば、人種間で疾患を持つ人を正しく陽性と予測する確率(TPR)と、疾患を持たない人を誤って陽性と予測する確率(FPR)の両方が、統計的に有意な差なく一致しなければなりません。

イコライズド・オッズは、デモグラフィック・パリティ(統計的均等性)のような他の公平性基準よりも厳格であり、単に陽性と予測される割合がグループ間で均等であること(統計的均等性)だけでなく、モデルの識別能力そのものが、すべての保護されたサブグループ間で一貫していることを保証しようとします。

この制約を最適化問題に組み込むことで、公平性と予測精度のトレードオフを管理しながら、より倫理的なAIシステムの構築を目指します。この基準の達成は、リグレッション・タスクや分類タスクにおける差別的取り扱いを最小限に抑える上で不可欠な要素と見なされています。