Yapay zekâ algoritmalarında 'erkek' izleri!
Çoğumuz bugüne kadar sayısız kez yapay zekâ destekli robotlarla iletişim kurmuş, müşterisi olduğumuz şirketlerle ilgili işlemlerimizi yapmışızdır. Düşünmenizi istiyorum, bu robotlardan herhangi biri erkek miydi? Soruyu şöyle sorayım: Hiç erkek sesiyle karşılaştınız mı? Ben pek karşılaşmadım diyebilirim.
Araştırmalar, yeni dünyanın yeni üyeleri olan yapay zekâ temelli robotların da cinsiyet hatta etnik köken ayrımı yaptığını gösteriyor. İrlanda merkezli University Collage Dublin’in araştırmacılarından Susan Levy, yapay zekâ algoritmalarının, “toksik masküliniteyi körükleyip, toplumun yıllardır verdiği mücadeleyi baltalayabilecek boyutta” olabileceğini söylüyor. Üniversitede yapay zekâ algoritmalarında cinsiyetçiliği engellemeye çalışan bir proje yürüten Levy, “İki yüzyıl geçmesine rağmen algoritmalar bizi geriye doğru itme özelliğine sahip” diyor.
Digital Future Society tarafından, 2020 yılının teknolojideki 10 kadın liderinden biri seçilen ve UNESCO’da Cinsiyet Eşitliği Direktörü olarak görev yapan Saniye Gülser Corat da yaptığı çalışmada, yapay zekâ teknolojisini geliştirenlerin çoğunun erkek olduğunu belirterek, ortaya çıkan dijital asistanların neredeyse tamamının aşırı saygılı ve itaatkâr kadın kimliğinde olduğunu söylüyor.
Meslekleri bile kadın-erkek işi olarak sınıflandırıyor
Benzer şekilde Buolamwini ve Gebru tarafından yürütülen araştırmada da konu beyaz olmayan kadınların yüzlerini sınıflandırmaya geldiğinde, yüz tanıma sistemlerinin yüzde 30’dan daha fazla bir oranda hatalı sonuçlara imza attığı görüldü. Araştırmacılar, modelin kendini erkek ve beyaz ten rengi olarak tanımlayan kişiler için en doğru sonucu verdiğini söylüyor. Cinsiyet önyargısı, Doğal Dil İşleme (NLP) sistemlerini de inceleyen araştırmada da özellikle yaygın olarak kullanılan dil çeviri sistemlerinde ML/AI modelleri cinsiyet kalıp yargılarını doğrulayacak şekilde mesleğe zamir atıyor. Modeller otomatik olarak doktorluk, pilotluk gibi meslekler için erkek, hemşirelik ve hosteslik için de kadın zamirlerini kullanıyor.
Yapay zekâda karşılaşılan tek ayrımcılık maalesef cinsiyetle ilgili değil. Örneğin yüz tanıma sistemlerinde kadın hem de koyu tenli bir kadınsanız sistemin yanılma payı artıyor. Levy, algoritmaların her türlü çeşitliliği cezalandırıp, topluma daha imtiyazlı olarak sunulan “beyaz erkek” grubundan yana tercihler yapabildiğini söylüyor. Amazon, “cinsiyetçi” sonuçlar doğurduğu için dört yıl boyunca işe alımlarda kullanıldığı yapay zekâ sistemini, 2018 yılında terk etmişti. Çünkü sistemin, 10 yıl boyunca işe alımlarda erkeklere öncelik verdiği ortaya çıkmıştı!
Beyaz erkekler daha zengin!
Cinsiyetçi algoritmanın kadınlar üzerindeki etkilerini sosyal medya ve arama motorlarında da görebiliyoruz. New York’taki AI Now Enstitüsü’nden Joy Lisi Rankin, “Facebook’ta beyaz erkeklerin karşısına geliri daha yüksek iş ilanları çıkarken, kadın veya beyaz ırktan olmayanlar içinse daha az ücretli iş ilanları gösterildiği saptanmış. “Siyahi kadın” veya “Latin Amerika kökenli” kelimeleriyle arama yapıldığında cinsiyetçi ve pornografik sonuçlarla karşılaşma oranı da hayli yüksek” diyor.
Uluslararası düzeyde çok sayıda kurum, bu alandaki sorunları ortaya koyan çalışmalara imza atıyor. Sorunun daha da büyümemesi için neler yapılması gerektiği üzerinde kafa yoruluyor. Yapay zekânın birçok alanda sınırsız bir potansiyele sahip olduğunu biliyoruz. Ancak sonuçta bu teknoloji de insan eliyle yaratılıyor. Dolayısıyla yapay zekâ insanlar tarafından oluşturulan verileri bir başlangıç noktası olarak kullandığı için yaş, cinsiyet veya ırka dayalı önyargıları da miras almış oluyor.
Çünkü sonuçta yapay zekâ da oluşturulmuş veriyi kullanıyor. Maalesef tüm dünyada farklı kesimlere dönük yaşanan ayrımcılık kafalara yerleştiği gibi datalara da sinmiş vaziyette. Reel hayatta sürdürülecek çalışmaların zamanla yapay zekâ dünyasına da olumlu yansımaları olacaktır.
Google’da araştırma direktörlüğü de yapan Ray Kurzweil, 2030’lu yıllarda yapay zekânın karar alma süreçlerindeki son ve en yetkili onay merci olduğu “Singularity” kavramından bahsetmişti. Acaba biz gelecekte böyle ayrımcılık yapabilen bir “singularity” dünyasında yaşamak ister miyiz? Tartışmaya devam edeceğiz!