Yapay Zeka ile Algoritmik Ayrımcılık
İbn Haldun Üniversitesi Hukuk Fakültesi Öğr. Üyesi Prof. Dr. Yeliz Bozkurt Gümrükçüoğlu, yapay zeka ve makine öğrenimi tabanlı sistemlerin işe alımlarda belli gruplara karşı ön yargılı davranarak algoritmik ayrımcılığa yol açtığını vurguladı.
Algoritmalarda Ayrımcılık Riski
Gümrükçüoğlu, Meta, Google ve Amazon gibi teknoloji devlerinde sıkça karşılaşılan bu durumun, şirketlerin daha verimli çalışmasını sağlasa da adil olmayan kararların alınmasına neden olduğunu ifade etti.
Önyargıların Etkisi
Algoritmik ayrımcılık, algoritmaları geliştiren mühendislerin ön yargıları, yetersiz veri kullanımı ve belirli grupların yeterince temsil edilmemesi gibi sebeplerden kaynaklanıyor. Gümrükçüoğlu, "Algoritmalar, inşa eden yazılımcıların ön yargılarını yansıtabiliyor," dedi.
Örnek Vaka: Amazon
Gümrükçüoğlu, Amazon'un geliştirdiği işe alım algoritmasının erkekleri tercih ettiğini ve kadınları dışladığını belirterek bu durumun bir dava ile gündeme geldiğini anımsattı. Ayrıca, Facebook'un ayrımcı politikaları nedeniyle yasal sorunlarla karşılaştığını vurguladı.
Şirketlerin Sorumluluğu
Algoritmal ayrımcı uygulamalarda mühendislerin yanı sıra şirketlerin de kendi filtreleme metotlarının etkili olduğunu ifade eden Gümrükçüoğlu, "Şirketlerin dikkatsiz davranışları, ayrımcılık teşkil eden sonuçlar doğurabiliyor," dedi.
Çözüm Önerileri
Gümrükçüoğlu, algoritmaların daha şeffaf ve hesap verilebilir bir şekilde geliştirilmesine ihtiyaç olduğunu belirtti. Avrupa Birliği'nin bu alanda çalışmalara başladığını ve Türkiye'nin de benzer düzenlemelere uyum sağlama çabasında olduğunu dile getirdi.
Kişisel Verilerin Korunması
Son olarak, bireylerin paylaşımlarının iş hayatını etkileyebileceğini söyleyen Gümrükçüoğlu, kişisel verilerin korunması ve algoritmalardaki etik ihlaller konusunda uluslararası düzeyde düzenleme yapılması gerektiğini vurguladı. Yapay zeka ve algoritmaların gelecekte nasıl şekilleneceği ise merak konusu.
