SosyalKafa

Apple Card Cinsiyet Ayrımcılığı Mı Yapıyor?

2019 Ağustos ayında piyasaya sürülen Apple Card, Amerika’da Apple cihazlarındaki Wallet uygulaması üzerinden başvurulabilen ve sanal kart numaraları ile dakikalar içinde kullanıma başlanabilen bir kredi kartı. Kart için data sistemini geliştiren Apple, kullanıcıların harcama alışkanlıklarını takip ediyor ve onlara daha sağlıklı bir finansal yaşam vaat ediyor. Ancak, akıllı finans danışmanlığı sağlayan data, bu hafta Apple Card’ı cinsiyetçi olma suçlaması ile karşı karşıya bıraktı!

Suçlamalar, teknoloji girişimcisi ve yazılımcı David Heinemeier Hansson’ın 7 Kasım’da Apple Card’ın eşine ve kendisine farklı kredi limitleri sağlamasından şikayet ettiği tweet ile başladı. Hansson’a göre, eşinin kredi notu kendisinin kredi notuna göre daha yüksek olmasına rağmen Apple Card’ın kendisine tanımladığı kredi limiti eşine sağlanan kredi limitinden 20 kat fazla. Hansson’ın ardından Steve Wozniak da, eşi ile kendisinin ayrı banka hesapları, kredi kartları ve varlıkları olmamasına rağmen Apple Card tarafından benzer bir cinsiyet ayrımcılığını yaşadıklarını paylaştı. Devamında ise, birçok farklı insan Apple Card ile yaşadıkları benzer cinsiyetçi deneyimleri aktardı.

New York Finansal Hizmetler Departmanı, Apple Card’ın cinsiyet ayrımcılığı yaptığına dair suçlamaları araştırmak için bir soruşturma başlattı. Buna göre, algoritmanın kredi limiti kararlarında eyalet yasalarını ihlal ederek, kasıtlı ya da kasıtlı olmayarak cinsiyete dayalı ayrımcılık yapıp yapmadığı araştırılacak. Konu ile ilgili açıklama yapan Goldman Sachs ise, kredi kararlarında bireysel bazlı karar aldıklarını ve kişiye verilecek krediye finansal durumlarındaki hareketliliğe bağlı olarak karar verildiğini belirtti. Açıklamaya göre, aynı aile içerisindeki iki kişiye farklı kredi limitleri sağlanabilir ve bu karar cinsiyete dayalı faktörlerin etkisi altında değil.

Her ne kadar Goldman Sachs Apple Card’ın cinsiyete dayalı bir parametresi olmadığını öne sürse de, finans danışmanlığı sağlayan yapay zeka algoritmasının nasıl bir veri ile eğitildiği yüzde yüz şeffaf bir süreç değil. Hastalık teşhisi, kent planlamaları, otomobil güvenlik sistemleri, akıllı asistanlar ve diğer yapay zeka algoritmalarında cinsiyete dayalı ön yargıların ve veri eksikliğinin olduğunu biliyoruz. Apple Card cinsiyetçi politikalar üretiyor mu sorusu hala yanıtlanmış değil, ancak algoritmaların kontrol, açıklık ve şeffaflığının önemi yapay zekanın gündelik hayata adapte olması ile daha kritik bir hale geliyor.

 

Kaynak

NY regulators investigating Apple Card after viral complaint of sexism

Apple’s ‘sexist’ credit card investigated by US regulator

The Apple Card is being investigated for sexism. Here’s Goldman Sachs’ response

 

Büşra Kılıç