Apple Card の発売は成功し、ユーザーからも好評でした。しかし、それをめぐって最初の疑問が浮上しています。一部のユーザーは、クレジットを付与する際にカードに関するさまざまな事故を報告しています。アップル・カードは何度も女性に対し、男性よりも低いクレジットを提供してきたが、その条件は明らかに結婚していて同じような経済活動をしており、場合によっては女性の方が給与が高いという条件下だったとみられる。
Apple Cardとクレジット、論争の根源
すべては先週の木曜日、デビッド・ハイネマイヤー・ハンソン氏が一連のツイートをTwitterに投稿し、 Apple Cardが自分に妻に与えた限度額の20倍の限度額をどのように与えたかを説明したときに始まった。 David Heinemeier Hansson は影響力のある開発者であり、Basecamp の現 CEO であるため、彼のツイートは十分な影響力を持っています。デビッドは、二人とも何年も一緒に暮らしており、共同で税金を申告しており、妻は受け取ったクレジットを期限内に支払っているにもかかわらず、次の請求期間までまだそれ以上の税金を受け取っていないと主張している。つまり、Apple Card のクレジット付与の背後にあるアルゴリズムは性差別的であると彼は考えています。
@AppleCardは本当に性差別的なプログラムです。妻と私は共同で納税申告書を提出し、共同体財産州に住んでおり、長い結婚生活を送っています。しかし、Apple のブラックボックス アルゴリズムは、私が彼女の与信限度額の 20 倍に値すると考えています。異議申し立ては機能しません。
— DHH (@dhh) 2019年11月7日
彼が説明するように、彼は何度か Apple カスタマー サービスに連絡しましたが、なぜ妻の信用が低いのかという疑問は解決できませんでした。最後に、彼のツイートがメディアに影響を与えた後、彼は今では妻の信用が自分と同等であることを示しています。なぜ妻のために突然この金額を上げたのか、彼らは彼に何の説明も与えておらず、彼が再び顧客サービスに連絡したところ、従業員は彼に「理由は分からないが、私たちは差別をしないことを誓います。単に差別しているだけです」と言いました。アルゴリズム”。
デビッド・ハイネマイヤー・ハンソン氏のツイートに続いて、他のユーザーも、女性の支出制限が男性よりも低い同様の扱いについて苦情を公表した。たとえば、 あるユーザーは、妻の収入が自分の 4 倍であるにもかかわらず、受け取れるクレジットが自分の 10 分の 1 であると共有します。別の人は、妻の方が彼よりもスコアが高く、月収も高いにもかかわらず、Apple Card を通じて妻が受け取れるのは彼に与えられたクレジットの 3 分の 1 だけだと説明しています。もちろん、同居中に妻が同じようなスコアで少し多めのクレジットを受け取り、共同納税をしたというユーザーも現れた。
銀行スコアリングの仕組み
すでにご存知のとおり、Apple Card はデビットカードではなくクレジット カードであるため、ユーザーは事前にお金を借りることができます。しかし、場合によってはこのようなひどい信用度の違いが生じる理由は何でしょうか?それはすべて、銀行のスコアリングと、米国 (および一般に世界中) での信用システムの仕組みによって異なります。
話を続ける前に、これまで言及されていなかったもう一人の人物がここに関与していることを覚えておく必要があります。それはゴールドマン・サックス銀行です。すでにご存知のとおり、 ゴールドマン・サックスは Apple の同盟国であり、Apple Card の財務部分を担当しており、Apple がテクノロジーを提供しています。つまり、付与されるクレジット、ローン、およびその限度額に関するすべてはゴールドマン・サックスに依存しており、一方、iPhone や Wallet アプリなどとの統合は Apple が担当しているということです。カードの契約者は Apple であり、カードにその名前が記載されているため、ユーザーは問題に直面したときに Apple に頼ることになるのは明らかです。
銀行スコアリングに戻ると、これは、各銀行または金融機関が各個人に信用を与える「信頼性」を確認するために各個人に付与するスコアです。このスコアは、 FICO が示すように、各人の月給、過去の支払い履歴、保留中の支払いがあるかどうか、現在の仕事の安定性など、多くの要因によって決まります。つまり、決定できるあらゆるタイプの要因です。借りたお金を期限までに返済できるかどうか。実際にはその人の性別はそれらの要素の 1 つではないはずですが、上記のような場合があるため、そのような印象を与えてしまう可能性があります。
ゴールドマン・サックスのスコアリングがどのように正確に機能するかは、ゴールドマン・サックスのみが知っています。この操作は、誰かがスコアリング条件を意図的に遵守して、ユーザーをだましてより良いスコアを取得できる可能性があるため、公開されていません。たとえば、Google の検索アルゴリズムでも同様のことが起こります。これは秘密であるため、誰もそれを利用せず、結果で自社の Web サイトをより良い位置に表示できません。言い換えれば、デイビッド・ハイネマイヤー・ハンソン氏が妻の20倍の信用を与えられている理由を知っているのはゴールドマン・サックスだけだということになる。
これこそがデビッド・ハイネマイヤー・ハンソンを最も怒らせていることだ。同氏は、アップルやゴールドマン・サックスの何人かの代表者と話した後、全員が同様の説明をしたと述べた。その説明は、アルゴリズムが各個人に何らかの単位を付与することを決定したものを分析する能力がないということです。ある意味では当然ですが、以前に示したように、これは秘密のアルゴリズムです。
しかし、もちろん、 Xataka の同僚が指摘しているように、アルゴリズムがどのように機能するかを正確に知らずにアルゴリズムを盲信しているのではないかという疑問が生じます。なぜなら、そのアルゴリズムは、ゴールドマン・サックスが提供するパラメーターだけでなく、機械学習によっても強化される可能性があるからです。与えています。 これは、最初の判別機械学習アルゴリズムではありません。ただし、アルゴリズムがどのように機能するかを正確に知る方法がないため、これはゴールドマン・サックスがこの状況でどのように行動したかを考慮したBasecamp CEOの推測です。
ゴールドマン・サックス、アップル、その他の組織の反応
これまで見てきたように、デヴィッド・ハイネマイヤー・ハンソンの批判は記憶に残る影響を与えました。このような批判に直面して、ゴールドマン・サックスは 公式声明を発表し、各Apple Cardユーザーに付与されるクレジットは独立しており、各人の結婚相手には依存しないと説明した。また、各人の性別などの要素に基づいて決定が下されるものではないことも明らかにしています。
#AppleCardの与信決定プロセスに関する最近の質問に答えたいと思います。 pic.twitter.com/TNZJTUZv36
— GSバンクサポート (@gsbanksupport) 2019年11月11日
一方、 Appleは現時点ではこの件についてコメントしていない。一部の Apple Card ユーザーが抱えているこの問題に関して、Apple からの公式声明はありません。 IphoneFocus.clickからは、この問題に関する彼らの立場を確認するために Apple Spain に連絡しました。返答があれば記事を更新します。
最後に、ニューヨークの規制当局は、この問題について調査を開始したと警告した。ニューヨーク金融サービス局の広報担当者は声明で、性別に関係なくすべての消費者が平等に扱われるよう同局が調査を行っていると述べた。示されているように:
「同省は、ニューヨーク州法に違反したかどうかを判断し、すべての消費者が性別に関係なく平等に扱われるよう調査を実施する。意図的か非意図的かにかかわらず、女性やその他の保護対象者に対する差別的な扱いをもたらすアルゴリズムはすべて、ニューヨーク州法に違反する」 」