Goldman Sachs è la banca che gestisce il sistema dietro Apple Card, la carta di credito dell’azienda di Cupertino. Negli ultimi giorni Goldman è stata accusata di applicare criteri sessisti per valutare il limite dei prestiti da assegnare alla propria utenza.
Non è la prima volta che un algoritmo viene accusato di sessismo: nel 2015 Amazon fu costretto a ritirare uno strumento di assunzione automatica che, a causa dei dati con cui era stato “addestrato”, finiva per preferire maschi come candidati.
Il caso Apple Card si è aperto quando David Heinemeier Hansson, un famoso imprenditore, ha fatto notare che con la sua carta aveva a disposizione un credito 20 volte superiore a quello della moglie. Lo stesso cofondatore di Apple, Steve Wozniak, riporta una situazione analoga: la sua compagna può accedere solamente a un decimo di quanto può avere a disposizione il marito.
Tutto questo accade nonostante le coppie compilino dichiarazioni dei redditi congiunte.
Il problema è che il sistema Apple Card è solamente individuale, ciò significa che il conto non può essere condiviso nemmeno con il proprio coniuge, e che per ogni utente parte una verifica da parte della banca, Goldman in questo caso, per valutarne la capacità di gestione del credito. Su questa valutazione si baserà poi la disponibilità di denaro.
Iscrivendosi al servizio non viene però richiesto di inserire il proprio sesso, nonostante ciò un algoritmo avanzato potrebbe stabilirlo in base, per esempio, agli acquisti passati, e nel caso peggiore potrebbe utilizzare questo dato per decidere a quanto credito potrà accedere l’utenza. Questo è proprio ciò che sostiene chi sta accusando la Goldman di sessismo.
Conosci la differenza tra carta di credito e di debito?
