医療バイアスは危険です。しかし、「公平性」アルゴリズムも同様です from WIRED(Ideas)

• 形式的な数学的用語で公平性を定義し続け、すべてのグループに対して精度が低く、一部のグループに対して積極的に有害な AI を展開することができます。
AI の将来の公平性に対する課題は、レベルダウンによる手続き上の公平性だけでなく、実質的に公平なシステムを作成することです。
これは、単にシステムを微調整してグループ間で 2 つの数値を等しくするよりもはるかに複雑な課題です。
どのように公平であるべきか、誰に対して公平であるべきかについての選択は、公平性を解決すべき単純な数学的問題として扱うにはあまりにも重要です。
これまでのところ、数学的に公平な方法を作成してきましたが、不利な立場にあるグループに利益をもたらすことはできません。
それらの道徳的に曖昧な効果により、それらが使用される可能性が低くなり、これらの問題に対する実際の解決策が遅くなる可能性があります.私たちが必要としているのは、レベルアップを通じて公平であり、他の人を恣意的に傷つけることなく、パフォーマンスの悪いグループを助けるシステムです。