ニューヨーク当局によって性別バイアスについて調査されているAppleCard

アップルカード ゴールドマンサックスは、クレジットカードの決定を行う際の性別による偏見について調査されています。

この調査は、WebフレームワークRuby onRailsの作成者であるDavidHeinemeierHanssonからのツイートに基づいています。 ツイートストーム（以下にリンク）で、彼は、同様の財務状況があるにもかかわらず、彼の妻は彼女のAppleCardに対してより低いクレジット制限を発行されたと述べました。 彼のツイートによると、彼は彼女の20倍のクレジット制限を受け取りました。これは、提供された情報に基づく不一致な金額です。

彼らが彼女の配偶者の署名された承認なしに彼女にカードを申請させさえしたことに私は驚いていますか？ つまり、最近クレジットカードで女性を本当に信頼できるのか??！

— DHH（@dhh） 2019 年 11 月 7 日

「この部門は、ニューヨークの法律に違反していないかどうかを判断し、性別に関係なくすべての消費者が平等に扱われるようにするための調査を実施します。 意図的かどうかにかかわらず、女性やその他の保護されたクラスの人々を差別的に扱うアルゴリズムは、ニューヨーク州法に違反します」とニューヨーク州金融サービス局の責任者であるリンダ・レースウェルのスポークスマンは述べています。 今週末ブルームバーグに語った。 

ゴールドマン・サックスは、単に信用力のみに基づいて信用決定を行ったと述べています。 これはハンソンにとって満足のいく説明ではなかった。ハンソンは、サックスがソーシャルメディアで会社を爆発させた後、クレジットカードの制限を引き上げたと述べた。 あなたの配偶者からのつぶやきがあなたの信用限度に影響を与えない限り、さらなる文書化の要求なしに会社が以前の決定を変更する理由はありませんでした。

ここでの問題は、ニューヨークからの調査の基礎を形成する信用決定の背後にあるアルゴリズムであるように思われます。