Apple Card: Vorwürfe wegen sexistischer Kreditvergabe

[Jan Gruber]

Apple Card: Vorwürfe wegen sexistischer Kreditvergabe

Ist die Apple Card sexistisch? Eine Frage die in den letzten Stunden sehr erregt im Netz diskutiert wird. Der Grund sind die Kreditvergaberichtlinien von Goldman Sachs.

Die Vergabe der Kreditkarte von Apple soll möglichst einfach sein, die Apple Card kann direkt über die Wallet App beantragt werden. Die Ermittlung des Kreditrahmen sowie der zu zahlende Zinssatz wird von einem, natürlich nicht öffentlichen, Algorithmus vorgenommen. Hier fließen Daten wie der Credit Score oder Steuererstattungen ein. Aufgrund von Anti-Diskrimierungsgesetzen dürfen in vielen US-Bundesstaaten aber Geschlecht, Rasse und Religion keine Rolle spielen.
Untersuchung wegen sexistischer Kreditvergabe


Den Stein des Anstoßes lieferten einige Tweets, unter anderem von Heinemaier Hannson, dem Erfinder von Ruby on Rails. Er soll ein 20 mal höheres Limit als seine Frau erhalten haben, obwohl alle Güter auf beide Ehepartner laufen und seine Frau einen höheren Credit Score hat.

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.

— DHH (@dhh) November 7, 2019​

Steve Wozniak stimmt in die Beschwerden ein, die Situation stellt sich ähnlich dar.

The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.

— Steve Wozniak (@stevewoz) November 10, 2019​

Goldman Sachs meldete sich schnell zu Wort - Die Bank soll sich an die Vorgaben halten. "In allen Fällen haben wir keine Entscheidungen auf Basis von Faktoren wie das Geschlecht getroffen und werden das auch nicht tun.". Wie es zu den Unterscheidungen bei der Vergabe des Limits kommt, wurde aber nicht erklärt. Die Bank stellte lediglich klar, dass alle Anträge auch bei Familienmitgliedern getrennt voneinander geprüft und bearbeitet werden.

Via Twitter, Bloomberg und DerStandard

 

[RobertK81]

Egal, wie die exakten Hintergründe dieser Fälle aussehen, zeigt das ganze doch eine sehr reale Gefahr auf - wir können uns als Gesellschaft noch so sehr weiter entwickeln, wenn wir wichtige Entscheidungen in die Hand von undurchsichtigen Algorithmen legen, die aufgrund unzureichender Daten und mit Annahme von althergebrachten Vorstellungen programmiert wurden, bringt das alles nichts.

Ich habe an anderer Stelle schon die Aussage gelesen, Algorithmen seien doch objektiv und können gar nicht sexistisch sein.
Abgesehen von realen Gegenbeispielen basieren Algorithmen weiterhin auf dem alten Prinzip "garbage in, garbage out". Und der "garbage in" kommt weiterhin von Menschen, die sehr wohl sexistisch sein können.
Vor dem Hintergrund sollte man schon sehr kritisch betrachten, wenn Firmen sich wie in diesem Fall hinter Algorithmen verstecken - auch, weil sie die Dinger selber nicht mehr verstehen (s. die Lufthansa, die auf ihre eigenen Preise keinen Einfluss mehr zu haben meint)

Lesetipp hierzu auch: "Invisible Women" von Caroline Criado-Perez. Wenn man sich das durchgelesen hat, wird einem schnell bewusst, welcher "garbage" an Daten in die ach so unfehlbaren Algorithmen einfließt.

 

[Jan Gruber]

Sehr schweres Thema. Da ich in dem Segment Frage bleibt am Ende immer eine Frage offen: Wann ist es unfair, wann ist es nicht unfair? Wenn mathematisch bewiesen Menschen "benachteiligt" werden, ist es dann okay oder nicht?

Beispiel: Frauen mit 18 haben ein geringeres Risiko als Männer mit 18. Darum waren Tarife in der Unfallversicherungen für Männer höher als jene für Frauen. Mit 30 ändert sich das interessanterweise. Dann war es auch in der Tarifierung anders rum. EU sei Dank gibt es ein Gesetz für Gleichberechtigung - Unisex nannte sich das, ist ein paar Jahre her. Was hats gebracht? Die Durchschnittspreise für die ganze Risikogemeinschaft sind gestiegen. Super, ne?

 

[Templer]

Ein Bekannter von mir hat vor ca. 2 Jahren neue Kreditkarten (Mastercard) für sich und seine Frau beantragt. Er hat einen Kreditrahmen von 4000 EUR bekommen, sie 1000 EUR. Gemeinsames Konto, gemeinsames Haus.
ABER: Er monatliches Einkommen als Angestellter von x Tausend EUR, sie Hausfrau/Mutter ohne monatliches Einkommen.

Ein Anruf bei der Hotline und die Sache war erledigt... ohne Klage und Presse... :rolleyes:

Ich behaupte jetzt mal bei dem Kläger liegt die Sache sehr ähnlich. Er hat einfach ein höheres monatliches Einkommen als seine Frau. Sie wird also nicht "diskriminiert" weil sie eine Frau ist. Weniger regelmäßiges monatliches Einkommen, niedriger Kreditrahmen.

 

[Jan Gruber]

Ich hoff mal schwer, dass das bei den obigen Fällen mal nicht der Fall ist Das wäre ja der Klassiker und der ist ja auch in Ordnung. EIn Teil des Problems ist ja auch, dass Goldman Sachs recht schlecht mit sich reden lässt. Sonst ists ja meist nur ein Anruf zur Erhöhung des Limits.

 

[Yiruma]

Hier erkenne ich seit Jahren nur einkommensabhängige Unterschiede.

 

[dimo1]

Klar bekommt der Apple Mitbegründer mehr Geld als seine Frau, oder ein Fußballer mehr als die Ehefrau.
Wo ist denn da sonst die Logik?

So funktioniert eben die Welt. Ich denke umgekehrt funktioniert das ebenso. Sagen wir mal seine Frau hätte jetzt Apple mitgegründet dürfte sie eben auch ein anderes Scoring bekommen.

 

[3vilsimon]

So funktioniert eben die Welt.

Das Problem ist, dass es in einigen Staaten der USA Gesetze gibt, nach denen geschlechtsspezifische Unterschiede bei der Kreditvergabe verboten sind.

 

[Andreas Vogel]

Der Sexismusvorwurf ist ja momentan das Todesargument für fast alles.
Es gibt nun mal Berechnungsmodelle die Kreditwürdigkeit statistisch erheben und da fallen alle "schwächer" aus, bei denen Ausfallrisiken gegeben sind.
Tatsache ist, dass a) nur Frauen Kinder gebären können, b) deswegen häufiger x Jahre nicht Erwerbsarbeiten und c) daher andere Erwerbsbiographien haben als Männer.
Soweit für mich nicht sexistisch.
Leider muss man sagen, dass a-c Gründe sind, die die Kreditausfallrisiken erhöhen. Daraus einen Sexismusvorwurf zu konstruieren ist erstmal absurd!

 

[landplage]

Leider muss man sagen, dass a-c Gründe sind, die die Kreditausfallrisiken erhöhen.

Dann muss bei allen meinen jüngeren mannlichem Mitarbeitern die Kreditausfallrisikoklasse nach oben korrigiert werden. Die gehen alle in Elternzeit (und nicht nur die zwei Feigenblatt-Monate), fallen bei Erkrankung des Kindes aus oder sind gleich alleinerziehende Väter mit reduzierter Arbeitszeit. Wie war doch gleich die typische männliche/weibliche Erwerbsbiographie?

 

[RobertK81]

Als Mann ist es natürlich leicht, sich hinzustellen, die Frauen können ja Kinder kriegen, passt schon, wenn sie deswegen benachteiligt werden.
Dass sich mittlerweile an den „unterschiedlichen Erwerbsbiographien“ (Euphemismus für „Männer streichen die Kohle ein, Frauen haben die Arschkarte weil entweder arm im Alter oder dauerabhängig vom Ehemann“) zumindest und endlich langsam etwas ändert, egal.
Dass in diesem Fall zwar „homemaker“ im tax return steht, so etwas dem Algorithmus aber wichtiger erscheint als Fakten wie „ist Millionärin“, „hat immer Kredite abbezahlt“ und „hat eine erfolgreiche Karriere“, egal.

Das solche Benachteiligung auch Konsequenzen für die betroffenen Frauen haben kann, egal.

It matters for the woman struggling to start a business in a world that still seems to think women can’t be as successful or creditworthy as men. It matters to the wife trying to get out of an abusive relationship. It matters to minorities harmed by institutional biases.

https://dhh.dk/2019/about-the-apple-card.html

Der Status quo passt schon, der Algorithmus ist eh heilig, mir schadet‘s ja nicht.
Nein, Sexismus als Vorwurf ist nicht immer korrekt.
Aber man darf sich als Mann durchaus mal die Mühe machen, seine eigenen Privilegien zu hinterfragen.
Und „da kann man nichts machen“ und „ist halt so“ reicht als Antwort auf dieses hinterfragen eben nicht (mehr).

 

[Mitglied 105235]

Das Problem ist, dass es in einigen Staaten der USA Gesetze gibt, nach denen geschlechtsspezifische Unterschiede bei der Kreditvergabe verboten sind.

Das Problem ist, dass du zwar sicherlich den gesamten Beitrag von @dimo1 gelesen hast, aber trotzdem nur den kleinen Teil hier zitierst... Er vermutet, wie du selber gelesen hast, dass bei den Fällen von oben nicht die Frau den kleinen Rahmen hat weil sie eine Frau ist, sondern weil sie das Geringere Einkommen hat und das ist in erster Linie nun keine Diskriminierung sondern für die Bewertung ein Belegbarer Parameter.

 

[Andreas Vogel]

Dann muss bei allen meinen jüngeren mannlichem Mitarbeitern die Kreditausfallrisikoklasse nach oben korrigiert werden. Die gehen alle in Elternzeit (und nicht nur die zwei Feigenblatt-Monate), fallen bei Erkrankung des Kindes aus oder sind gleich alleinerziehende Väter mit reduzierter Arbeitszeit. Wie war doch gleich die typische männliche/weibliche Erwerbsbiographie?

Vorweg: Hier geht es NUR um Statistik, nicht um gesellschaftspolitisches.
Elternzeit schadet der männlichen Erwerbsbiographie deutlich weniger als der weiblichen, da idR mind. 1x 9 Monate Schwangerschaft dazukommen und danach sehr häufig die Reduzierung auf 3/4 oder 1/2 Stelle. das schlägt drastischer zu Buche als -bislang eher wenige- moderne Väter, die auch mal offline gehen und denen das hinterher positiv in Sachen Führungskompetenz gewertet wird...

 

[landplage]

danach sehr häufig die Reduzierung auf 3/4 oder 1/2 Stelle. das schlägt drastischer zu Buche

Eben das machen die jungen Männer (auch in Führungspositionen) heute. Sie arbeiten Teilzeit und bleiben bei jedem Kind ein halbes Jahr oder länger zu hause. Und sie verlassen pünktlich das Büro, weil die Kita pünktlich schließt - und das jahrelang.

Und welche Frau (von schweren Erkrankungen abgesehen) bleibt während neun Monate Schwangerschaft komplett der Arbeit fern? Sechs Wochen vor Geburtstermin, wenn ich mich nicht irre.

Die Welt ist schon ein bißchen weiter heute, zumindest in Deutschland...

 

[Mitglied 105235]

Gibt Berufe da darf die Frau nicht während der Schwangerschaft arbeiten, weil zu schwer gehoben wird oder sie gewissen Dämpfen und Chemikalien ausgesetzt ist.

 

[MichaNbg]

Gibt Berufe da darf die Frau nicht während der Schwangerschaft arbeiten, weil zu schwer gehoben wird oder sie gewissen Dämpfen und Chemikalien ausgesetzt ist.

Krankheitserreger, usw.

Krankenschwestern, Sprechstundenhilfen, etc. sind da sehr schnell dabei. Arbeitet man auf einer psychiatrischen Station bist quasi sofort ab Kenntnisnahme durch den Arbeitgeber weg. Mindestens auf einer anderen Station oder gleich ganz zuhause. Aufgrund der körperlichen Gefährdung im Ausnahmefall.

 

[landplage]

Ja, aber das dürfte nicht die überwiegende Anzahl der Schwangeren betreffen.

Und dann kann man immer noch an einen anderen Arbeitsplatz umgesetzt werden. Meine Freundin ist Sicherheitsbeauftragte in einem Forschungsinstitut, in dem mit allen möglichen gefährlichen Substanzen gearbeitet wird. Wird dort eine Mitarbeiterin schwanger, gibt es eine Gefährdungsanalyse des Arbeitsplatzes und dann wird eine Alternative gesucht.
Eine frühere Mitarbeiterin von mir durfte verständlicherweise schwanger nicht mehr im rollenden Schichtsystem arbeiten. Also wurde sie nur in Normalschicht eingesetzt.

Das Thema war eigentlich, dass Frauen immer doof dran sind bei der Kreditvergabe, weil sich ihre Erwerbsbiographie deutlich von der der Männer unterscheidet. Ich denke, das wird sich in Zukunft mehr und mehr annähern. Auch deswegen, weil die (jungen) Männer ihr Leben zunhemend nicht mehr allein an der beruflichen Karriere, sondern auch an einer erfolgreichen Partner- und Elternernschaft ausrichten. Das können die Banken natürlich ignorieren. Fragt sich nur, wie lange.

 

[FuAn]

Das Problem ist, dass du zwar sicherlich den gesamten Beitrag von @dimo1 gelesen hast, aber trotzdem nur den kleinen Teil hier zitierst... Er vermutet, wie du selber gelesen hast, dass bei den Fällen von oben nicht die Frau den kleinen Rahmen hat weil sie eine Frau ist, sondern weil sie das Geringere Einkommen hat und das ist in erster Linie nun keine Diskriminierung sondern für die Bewertung ein Belegbarer Parameter.

Klar bekommt der Apple Mitbegründer mehr Geld als seine Frau, oder ein Fußballer mehr als die Ehefrau.
Wo ist denn da sonst die Logik?

So funktioniert eben die Welt. Ich denke umgekehrt funktioniert das ebenso. Sagen wir mal seine Frau hätte jetzt Apple mitgegründet dürfte sie eben auch ein anderes Scoring bekommen.

In den USA werden bei einem Kreditkartenantrag alle finanziellen Mittel angegeben, auf die man angemessenen Zugriff hat, ‘reasonable access’. Im Falle von verheirateten Ehepartnern bedeutet das Haushaltseinkommen, es dürften also keine Einkommensunterschiede vorliegen. Bei Kreditkartenantraegen werden keine W2s (ähnlich Lohnsteuerkarte) oder Tax transcripts vorgelegt, somit ist fuer die Bank Beruf oder Einkommen nicht zwischen Partnern zu trennen. Bei den tweets wurde darauf hingewiesen, dass die Partner beide seit ~20+ Jahren immer gemeinsame accounts / authorized user waren, damit ist die Credit History beider quasi identisch und dürste sich im Bereich +/- 5 Punkte nicht unterscheiden, und das wenn überhaupt rein deshalb weil vielleicht beim Einen ein Account ein Tag früher reported wird, als beim Andern.

Die Algorithmen der Credit Bureaus sind zwar nicht 100% durchsichtig sie stützen sich jedoch zu 99.9% auf folgende Faktoren mit gewichteter Reihenfolge: Zahlungshistorie, Ausgeschoepfter Kreditrahmen, Alter der Kreditlinien, Mix aus unterschiedlichen Krediten (Haus, Auto, Kreditkarten...), Anzahl der Kreditanfragen.
Daraus wird ein Punktestand errechnet der bis max 850pkt geht.
Bei einem Kreditkartenantrag wird dieser Punktestand and das Institut übermittelt.

Was die Bank letztlich daraus macht, ist dann rein deren Entscheidung und basiert sicherlich auch wieder auf Algorithmen die Punkte, Alter, Wohnort, Wohnsituation etc. einbeziehen werden... Sollte nun bei Ehepartnern unter den in getweeteten Umständen, ein signifikanter Unterschied rauskommen, dann wird das vielleicht am angegebenen Beruf, wohl aber auch am Geschlecht liegen, ggf. noch am Alter liegen.

Jetzt kann man sich mal überlegen ob das vor diesem Hintergrund so logisch ist oder nicht? Das Risiko morgen ohne Job da zu sitzen, halte ich fuer beide Geschlechter gleich, denn bei “at will employment” kann man quasi zum Mitarbeiter morgens um 9 sagen, du kannst nach Hause gehen und brauchst nicht mehr kommen. Bezahlt wird dann nur noch bis 9 Uhr. Da sind mögliche Ausfälle von weiblichen Kreditnehmern, durch Schwangerschaften, ein deutlich überschaubareres Risiko.

Unabhaengig davon, zeigt der Fall wieder, dass die AppleCard nix als Müll ist. Jeder mit halbwegs vernueftigem Creditscore hat zugriff auf eine ganze Reihe besserer Karten. Denn zum hier besprochenen Problem, kommt dazu, dass man keine authorized user hinzufügen kann, sprich, man kann sich nicht wie bei eigentlich fast absolut allen Karten auf dem US Markt, seinen Ehepartner hinzufügen um so beide von Zahlungshistorie, Kreditlimit, Alter der Karte, in der Kredithistorie zu profitieren. Was fuer viele nicht unwichtig ist, da bei einem Hauskredit ein paar Punkte hin oder her ueber signifikante Unterschiede bei den Zinsen entscheiden können.

Soviel zur besten Kreditkarte aller Zeiten...

 

[Andreas Vogel]

Und welche Frau (von schweren Erkrankungen abgesehen) bleibt während neun Monate Schwangerschaft komplett der Arbeit fern? Sechs Wochen vor Geburtstermin, wenn ich mich nicht irre.
Die Welt ist schon ein bißchen weiter heute, zumindest in Deutschland...

... naja ich bin in den letzten 5 Jahren Arbeitgeber von rd. 90 Mitarbeitern... ich hab exakt 1 Frau gesehen, die nicht nach dem 3. Monat zum Arzt geht und sich ein Beschäftigungsverbot bescheinigen läßt... "is doch mein gutes Recht"... soweit ist D verkommen... geh ich heute zum Arzt und erzähl dem XXX bekomm ich 5 Tage Krankenschein, weil er Angst hat... wenn wirklich was ist, etc... SOWEIT sind wir in D --> L E I D E R

entscheidend ist immer die eigene Einstellung zur Arbeit, der Wille zu arbeiten, den Wert der Arbeit für den Einzelnen... und da haben sehr viele Defizite!

 

[Jan Gruber]

Mein engster Kollege ist jetzt seit 5 Jahren in Elternzeit. Seine Frau hat nen hochdotierten Job.
Sein Kreditscoring ist auch geringer als ihres. SO ist es dann ja okay ,...

Am Ende bleibt nur eines: Algorithmen völlig offen legen. Wenn es objektive Gründe gibt, wo es nicht darum geht "Ist ne Frau" dann ist ja alles okay - und die Sexismuskarte kann stecken gelassen werden.