このアルゴリズムはあなたの人生を台無しにする可能性があります from WIRED(AI)

Ceelie はロッテルダムの福祉詐欺チームによって 2 回調査されました。
彼女は、この調査の一環として作成されたロッテルダムの福祉リスク スコアリング システムの再構築に詳細を入力しています。
市のアルゴリズムとデータに基づいて構築されたユーザー インターフェイスは、Ceelie のリスク スコアがどのように計算されたかを示し、どの要因が彼女を詐欺の調査に導いたかを示します。
シーリーが自分の詳細でシステムをパーソナライズすると、彼女のスコアが変化し始めます。
彼女の成人した息子は彼女と一緒に住んでいませんが、彼の存在は、アルゴリズムにとって、彼女が福祉詐欺を犯す可能性を高めます. 「彼はこれと何をしなければならないのですか」と彼女は言います.ロッテルダムのシステムによると、Ceelie の離婚は彼女のリスク スコアを再び上げ、彼女は 0.643 のスコアで終了します。
「私は人間です」 2 つの福祉詐欺調査の後、Ceelie はシステムに腹を立てています。