Yapay Zekâda Cinsiyet ve Irk Ön yargısı: Görünmeyen Kodların Eşitsizliği

Feminist YZ

Yazan : Tolga Ünsün

Yapay zekâ (AI) sistemlerinin evrimi, toplumları daha önce deneyimlemediğimiz bir hızla şekillendirmekte ve dönüştürmektedir. Önceki yazılarımda da bahsettiğim bu baş döndürücü hız, ne bireylerin ne de kurumların kolayca adapte olabileceği bir değişimi temsil eder. Yapay zekâ, bugün bireysel gelişimimize ve günlük işlerimize katkı sağlarken, bu katkının önemli bir bedeli olduğunu göz ardı etmemeliyiz. Zira yapay zekâ, çoğu zaman fark edilmeden, cinsiyetçi ve ırkçı normları yeniden üreten “beyaz erkek” bir zihin yapısıyla inşa edilmekte(ydi).

Algoritmik Ön yargının Görünürleşmesi

Bugün kullandığımız sohbet robotları, görüntü üreten sistemler ve dijital asistanlar; farkında olmadan toplumsal ön yargıları yeniden üretmektedir. Görsel üretim araçları açık tenli erkek figürleri ön plana çıkarırken, kadın imgelerini çoğunlukla abartılı güzellik normlarıyla, cinsel çağrışımlar taşıyan biçimlerde temsil eder. Bu durum, günümüzde sıkça tartışılan “algoritmik bakış”¹ kavramını destekler niteliktedir.

Ayrıca, dijital asistanların² genellikle kadın sesiyle tasarlanmış olması ve cinsiyetçi, hatta flörtöz cevaplar vermeye programlanmış olması; kadının itaatkâr, uysal ve hizmet eden bir figür olarak yeniden kodlanmasına neden olmakta. Bu kodlama biçimi, toplumsal cinsiyet rollerinin dijital sistemlerde yeniden ve daha derinlemesine inşa edilmesine zemin hazırlar.

Ön yargının Kaynağı: Veriler ve Tasarımcılar

Yapay zekâ sistemlerinin büyük kısmı, geçmişte internet üzerinde üretilmiş içeriklerle eğitilmiştir. Bu içeriklerin çoğu, eril bakış açılarının egemen olduğu platformlardan gelir. Dolayısıyla, eğitim verilerinde yer alan ön yargılar; yapay zekâ sistemlerinin çıktılarına doğrudan yansır. Bu durum, literatürde “Çöp veri girerse, çöp çıktı alınır” (garbage in, garbage out)³ ilkesiyle özetlenir.

Sadece veriler değil, sistemleri tasarlayan insan gruplarının homojen yapısı da ciddi bir sorundur. Erkek egemen yazılım geliştirici ekiplerin bakış açıları, farkında olmadan algoritmaların tarafsız olması gereken karar mekanizmalarını etkiler.

Somut Örnekler: Yaşamın Her Alanında Sistematik Ayrımcılık

• İşe Alım Sistemlerinde Cinsiyet Temelli Ayrımcılık: Amazon

Amazon, kadınlara karşı ön yargılı davrandığı tespit edilen yapay zekâ destekli bir işe alım sistemini 2018 yılında rafa kaldırmak zorunda kalmıştı. Reuters⁴ tarafından yayımlanan detaylı bu habere göre, şirketin 2014 yılında geliştirmeye başladığı bu otomatik işe alım aracı, geçmişteki işe alım verileriyle eğitildiği için bu veriler, teknoloji sektöründeki tarihsel erkek egemenliğini yansıttığından, sistem zamanla erkek adayları sistematik biçimde tercih ediyor.

Yapay zekâ, özellikle özgeçmişlerde “kadın” kelimesinin geçtiği ifadeleri (örneğin, “kadın voleybol kaptanı” veya “kadın satranç kulübü lideri”) olumsuz birer veri olarak değerlendir. Bununla birlikte, yalnızca kadınlara yönelik eğitim kurumlarından mezun olan adaylar da algoritma tarafından dezavantajlı olarak sınıflandırılıyor. Eğitim verilerindeki bu yapısal dengesizlikler, algoritmanın “erkek” kimliğini ideal aday profili olarak kodlamasına neden oldu.

Bu örnek, algoritmaların yalnızca teknik araçlar olmadığını, aynı zamanda onları besleyen tarihsel ve kültürel ön yargıları yeniden üretebileceğini açıkça ortaya koymaktadır. Amazon’un bu sistemi kullanımdan kaldırması, yapay zekâ temelli işe alım süreçlerinde veri kalitesi, etik denetim ve şeffaflık gerekliliğini bir kez daha gözler önüne sermiştir.

• Reklam Dağıtımında Cinsiyet Rolleri:

Google ve Facebook gibi dijital reklam platformlarının kullandığı algoritmalar, görünüşte tarafsız matematiksel modeller gibi sunulsa da, gerçekte toplumsal ön yargıları yansıtan ve yeniden üreten yapılar olarak işlev görebilmektedir. Carnegie Mellon Üniversitesi⁵ tarafından yapılan bir çalışmada, Google’ın reklam algoritmasının erkek kullanıcılara kadınlara kıyasla yüksek maaşlı iş ilanlarını daha sık gösterdiği ortaya konmuştur. Bu sonuç, aynı eğitime, geçmiş tarayıcı alışkanlıklarına ve niteliklere sahip sanal kullanıcı profilleri üzerinden yapılan kontrollü bir deneyle elde edilmiştir. Algoritma, muhtemelen geçmiş kullanıcı davranışları ve verilerinden öğrenerek, erkekleri üst düzey pozisyonlar için daha uygun bir hedef kitle olarak tanımlamış ve bu doğrultuda reklam dağıtımı gerçekleştirmiştir.

Benzer bir biçimde, Facebook’un reklam algoritmalarının da toplumsal cinsiyet rollerini pekiştirdiği çeşitli araştırmalarla ^{6, 7} tespit edilmiştir. Kadın ve erkek kullanıcılara, benzer niteliklere sahip olsalar dahi, geleneksel cinsiyet kalıplarına uygun işler gösterilmektedir. Örneğin; inşaat, mühendislik gibi fiziksel güçle ilişkilendirilen işler çoğunlukla erkeklere sunulurken; sekreterlik, bakım hizmetleri gibi “kadın işi” olarak kodlanan ilanlar kadınlara yöneltilmiştir. Bu hedefleme davranışı, algoritmanın kullanıcı profillerini daha önceki etkileşimlere ve sosyal normlara göre kategorize etmesiyle oluşur. Ancak bu süreç, toplumsal cinsiyet eşitsizliklerini sorgulamak yerine, onları dijital ortamda görünmez şekilde yeniden üretir.

Bu tür vakalar, algoritmik ayrımcılığın yalnızca bireysel düzeyde değil, yapısal düzeyde de ciddi sonuçlar doğurduğunu göstermektedir. Yapay zekâ ve makine öğrenimi sistemleri, eğitildikleri verilerin doğasını yansıttıkları için, veride gömülü olan tarihsel eşitsizlikleri yeniden üretme eğiliminde. Reklamcılık gibi geniş kitlelere ulaşan sistemlerde bu eğilim, yalnızca ayrımcılığın sürdürülmesine değil, aynı zamanda yeni nesil kullanıcıların da bu önyargılara maruz kalarak şekillenmesine yol açmakta. Böylece algoritmalar, yalnızca bireysel tercihleri yansıtmakla kalmıyor, aynı zamanda kültürel normları da inşa eden bir iktidar aracı hâline geliyor.

Dolayısıyla, dijital reklam sistemleri gibi görünürde nötr alanlarda dahi ciddi etik denetimlerin yapılması ve algoritmaların şeffaf, hesap verebilir biçimde tasarlanması gereklidir. (Son yazımda bahsetmiştim, merak edenler için “Yapay Zekâ Reklamları: Yaratıcı Devrim mi, Tüketici Kandırıcılığı mı?” )

Toplumsal cinsiyet eşitliği gibi temel insan haklarını doğrudan etkileyen bu tür algoritmik kararlarda, feminist teknoloji⁸ eleştirisinin ve toplumsal adalet perspektifinin dijital tasarıma entegre edilmesi artık bir tercih değil, bir zorunluluk hâline gelmiştir.

• Yüz Tanıma Sistemlerinde Irk ve Cinsiyet Ön yargısı:

MIT⁹ ve Stanford araştırmaları, beyaz erkekler için %0.8 hata oranına sahip yüz tanıma sistemlerinin, koyu tenli kadınlarda bu oranı %34.7’ye kadar çıkardığını ortaya koymuştur. Bu fark, adli sistemlerde geri dönülmesi imkânsız hatalara neden olabilir.

• Ses Tanıma Sistemlerinde Erişim Engeli:

Google’ın ses tanıma sisteminin erkek seslerinde kadınlara kıyasla %13 daha isabetli çalıştığı tespit edilmiştir. Bu fark, teknolojik altyapıya erişimde cinsiyete dayalı bir ayrımcılığı ortaya çıkarır. Kadınlar, sesli komut sistemlerinde sistematik olarak dışlanma riskiyle karşı karşıya kalmaktadır.

• Finansal Teknolojilerde Ayrımcılık:

Apple Card durumu ise güzel bir örnek, algoritmik ayrımcılığın günlük yaşamda nasıl somut sonuçlar doğurabildiğini gösteren çarpıcı bir vaka. 2019 yılında Apple ve Goldman Sachs iş birliğiyle sunulan bu kredi kartı hizmeti, kullanıcıların kredi limitlerini belirlemek için yapay zekâ destekli sistemler kullanıyordu. Ancak kısa sürede, aynı finansal geçmişe ve ortak banka hesaplarına sahip çiftlerin farklı kredi limitleriyle karşılaştığına dair şikâyetler kamuoyuna yansıyor.  Özellikle iki bilinen isim; Teknoloji girişimcisi David Heinemeier Hansson ve Apple’ın kurucu ortaklarından Steve Wozniak, eşlerinin kendilerine kıyasla çok daha düşük kredi limitleri aldığını sosyal medyada paylaşıyorlar.

Söz konusu sistemler, görünüşte tarafsız ve otomatik kararlar veriyor gibi görünse de, gerçekte tarihsel ve yapısal eşitsizliklerden beslenen verilerle eğitildikleri için cinsiyet temelli ayrımcılığı yeniden üretebilmekte, öyle de oluyor. Apple Card algoritması cinsiyet bilgisini doğrudan kullanmasa bile, dolaylı olarak cinsiyetle ilişkilendirilebilecek harcama kalıpları, iş gücü katılım oranları veya sosyal roller gibi değişkenlerden dolayı kadınlara sistematik olarak daha düşük kredi limiti sunuyor. Bu durum, kadınların ekonomik haklarını doğrudan etkileyen yapısal bir eşitsizliğe işte böyle dönüşüyor.

New York Finansal Hizmetler Departmanı (NYDFS), kamuoyunun tepkisi üzerine konuyla ilgili resmi bir soruşturma başlattı. Apple ve Goldman Sachs ise sistemin cinsiyet ayrımı yapmadığını savunmalarına rağmen, algoritmanın nasıl çalıştığına dair şeffaf bilgi sunamamakla eleştirildi. Bu olay, finansal teknolojilerde kullanılan yapay zekâ sistemlerinin hesap verebilirliğini, denetlenebilirliğini ve toplumsal sorumluluğunu sorgulatan bir dönüm noktası haline geldi. Soruşturma nasıl sonuçlandı peki; oraya bakarsak NYDFS ‘min raporunda¹⁰ kadınlara veya diğer korunan gruplara karşı yasa dışı kasıtlı ayrımcılık olduğuna dair herhangi bir politika veya kanıt bulamadı. Ancak soruşturma, müşteri hizmetlerinde ve şeffaflıkta bazı eksiklikler olduğunu ortaya çıktı ve bunların düzeltilmesi için gerekli çalışmalar başlatıldı…

• Sağlık Teknolojilerinde Görünmez Riskler:

Yapay zekâ destekli teşhis sistemleri, kadınlara özgü semptomları yeterince dikkate almadığında ciddi hastalıklar da gözden kaçabiliyor. Bu durum, özellikle tanı algoritmalarının eğitildiği veri setlerinde kadın temsiliyetinin yetersizliğinden kaynaklanıyor. Yapay zekânın son dönemde hızla gelişmiş olması bu sorunu ortadan kaldırmaya çalışıyor olsa da, geçmiş örnekler sistemik ön yargıların her zaman göz önünde bulundurulması gerektiğini gösteriyor.

2024 yılında yapılan bir araştırma¹¹, GPT-4 gibi büyük dil modellerinin kalp hastalığı risk değerlendirmelerinde cinsiyet temelli ön yargılar taşıdığını ortaya çıkardı. Aynı tıbbi bilgilere sahip erkek ve kadın vakaları karşılaştırıldığında, kadın hastaların risklerinin daha düşük değerlendirildiği teşhiste gecikmelere yol açabileceğini gösteriyor.

Benzer bir şekilde, University College London tarafından yürütülen bir çalışma¹² da karaciğer hastalıklarının teşhisinde benzer bir soruna işaret etti. Araştırmaya göre, kadın hastalardaki teşhislerin yaklaşık %44’ü yapay zekâ sistemleri tarafından atlanırken, erkeklerde bu oran %23’tü. Bu fark, algoritmaların cinsiyet temelli önyargılarla çalıştığını ve sağlık hizmetlerinde adaletsizlik yaratabileceğini de açıkça ortaya koyuyor.

Algoritmik Adaletsizlikten, Kurumsal Krize…

Yapay zekâda ön yargının tespiti ve giderilmesi yalnızca teknik değil, aynı zamanda politik ve etik bir meseledir. Algoritmaların ürettiği adaletsiz çıktılar, bireysel mağduriyetlerin ötesinde, kamusal güveni ve toplumsal eşitliği tehdit eden yapısal sorunlardır. Bu tür hataların giderilmesi, yalnızca teknoloji şirketlerinin iyi niyetine bırakılamayacak kadar stratejik bir öneme sahip. Aksi hâlde, sistematik ayrımcılık dijital altyapıya gömülü hâlde yeniden ve yeniden üretilip duracak.

Bu tehlikenin kurumsal düzeydeki yansımaları 2024’te Google’ın yaşadığı skandalıyla¹³ somutlaştı. Google’ın yapay zekâ modeli Gemini (eski adı Bard), çeşitli tarihi figürlerin temsillerinde tarihsel bağlamla çelişen ırksal varyasyonlar üretiyor; örneğin Nazi subaylarını siyahi veya Asyalı bireyler olarak betimleyince olanlar oluyor ve kamuoyunda yer yerinden oynuyor. Bu hatalar, “tarihî revizyonizm” eleştirileriyle de birleşince, sistemin geçici olarak durdurulmasına ve Google’ın piyasa değerinde milyarlarca dolarlık kaybı ile sonuçlanıyor. Olay, algoritmik ön yargının sadece etik değil, finansal sonuçları¹⁴ da olduğunu çarpıcı biçimde ortaya koyar.

Bu örnek, yapay zekâ sistemlerinin geliştirilmesinde şeffaflık, hesap verebilirlik ve toplumsal duyarlılığın neden öncelikli olması gerektiğini bir kez daha gösteriyor. Ön yargı sadece bireyleri değil, şirketleri, kurumları ve nihayetinde demokrasileri de doğrudan etkileyen bir kırılganlık alanıdır.

Çözüm Yolları: Adil Bir Dijital Gelecek İçin Ne Yapmalı?

• Daha Temsili Veri Setleri Oluşturulmalı: Veri çeşitliliği, yapay zekânın daha adil sonuçlar üretmesini sağlar. Eğitim verilerinde cinsiyet, etnik köken, yaş, coğrafi dağılım gibi faktörler dengeli temsil edilmelidir.
• Algoritmaların Şeffaflığı Artırılmalı: Karar mekanizmalarının nasıl çalıştığına dair kamuya açık belgeler sunulmalı; algoritmik hesap verebilirlik sağlanmalı.
• Feminist ve Kapsayıcı AI Yaklaşımları Geliştirilmeli: Feminist yapay zekâ çerçevesi, yalnızca kadın haklarını değil, tüm azınlık gruplarının teknolojik eşitliğini gözeten sistemlerin inşasına katkı sağlar.
• Düzenleyici Mekanizmalar Güçlendirilmeli: Yapay zekâya dair yasal düzenlemeler, ön yargılı sistemlerin kullanımını sınırlandırmalı, bağımsız denetim mekanizmaları oluşturulmalı.
• Azınlıkların Teknoloji Üretimine Katılımı Artırılmalı: Kadınların ve farklı etnik kimliklere sahip bireylerin, yazılım geliştirme süreçlerine aktif katılımı desteklenmelidir.

Kodlanan Her Şey, Geleceği de Biçimlendirir…

Yapay zekâ sistemleri artık yalnızca teknik araçlar değil; etik, sosyolojik ve politik yapılar olarak toplumu dönüştüren güçlerdir. Bu teknolojiler kimin tarafından, kimin çıkarına ve hangi ön kabullerle geliştiriliyorsa, geleceğin toplumsal düzeni de o çerçevede şekillenecektir. Algoritmalar, görünürde tarafsız kod satırları değil; toplumsal değerlerin, ön yargıların ve iktidar ilişkilerinin dijital izdüşümleridir. Bugün bu sistemlere müdahale etmezsek, yarının dijital dünyası daha da derinleşen eşitsizliklere sahne olacaktır. Daha adil, kapsayıcı ve insan onurunu gözeten bir teknolojik gelecek inşa etmek, artık bir seçenek değil; zorunluluktur.

Kaynaklar & Referanslar

¹ Algoritmik bakış, dünyaya, olaylara, problemlere ve veriye bir algoritma mantığıyla yaklaşma biçimidir. Bu yaklaşım, sadece bilgisayar bilimleri ya da yazılım mühendisliği ile sınırlı olmayan; sanat, sosyal bilimler, felsefe ve gündelik yaşamı da etkileyen daha geniş bir düşünme tarzını ifade eder.

² Siri, Alexa vb.

³ “Garbage in, garbage out” (GIGO), bilişim ve veri bilimi alanlarında kullanılan bir terim. Kalitesiz ve/veya hatalı veriyle beslenen bir sistem, ne kadar gelişmiş olursa olsun, hatalı ya da değersiz çıktı üretir.

⁴ https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/

⁵ https://www.cs.cmu.edu/~mtschant/ife/

⁶ https://globalwitness.org/en/press-releases/facebook-accused-of-gender-discrimination-new-research-finds-bias-in-advertising-algorithm/

⁷ https://dl.acm.org/doi/10.1145/3442381.3450077

⁸ https://en.wikipedia.org/wiki/Technofeminism

⁹ https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212

¹⁰  https://www.dfs.ny.gov/system/files/documents/2021/03/rpt_202103_apple_card_investigation.pdf

¹¹ https://www.jmir.org/2024/1/e54242

¹² https://www.ucl.ac.uk/news/2022/jul/gender-bias-revealed-ai-tools-screening-liver-disease

¹³ https://www.theverge.com/2024/2/21/24079371/google-ai-gemini-generative-inaccurate-historical

¹⁴ https://www.forbes.com/sites/cio/2024/02/29/a-litany-of-apologies-over-googles-gemini-ai/?utm_source=chatgpt.com

 

Alıntı Yapma ve Kullanım Şartları

Bu metnin alıntılanması, yalnızca kaynak gösterilerek serbesttir. Ancak tüm yazı, görseller ve içerikler üzerindeki telif hakları, yazının yazarı olan Tolga Ünsün’e aittir. Metnin ticari amaçla kullanımı veya herhangi bir şekilde düzenlenmesi, yazarın izni olmadan yapılamaz. Tüm hakları saklıdır.