米民主党、IT企業のアルゴリズムによる偏向を防ぐ法案を提出

あるAnonymous Coward 曰く、

米民主党の議員たちが、IT企業などのサービスの下に潜んでいるアルゴリズムによる偏向（algorithmic biases）を抑止する法案を提出した。この法案は、「Algorithmic Accountability Act（アルゴリズム説明責任法）」と呼ばれ、連邦取引委員会（FTC）に「非常に機密性の高い」機械学習システムを評価する規則を作成することを求めている。企業側はツールのアルゴリズムが偏っていたり差別的かどうか、消費者にプライバシーもしくはセキュリティ上のリスクがないを適切に評価して説明することが求められる。

このタイミングで法案提出が行われた理由としては、米住宅都市開発省が住宅広告におけるFacebookの広告ターゲティングを差別として告訴した件や、AmazonのAI人材採用システムで女性差別があった点などもきっかけの一つになっている模様。

提出されたアルゴリズム説明責任法では、大量の情報にアクセスできる大企業を対象としている。具体的には、年間5000万ドル以上の収益がある企業、少なくとも100万人以上のユーザーデータや機器に関する情報を持つ企業、主に消費者データを売買するデータブローカーとして行動する企業に適用されるとしている（The Verge、TechCrunch、Slashdot）。