Top

Amazon’un İK Personeli: Cinsiyetçi Yapay Zeka

Amazon’un İK Personeli: Cinsiyetçi Yapay Zeka

Dünyanın önde gelen bilim insanlarından Profesör Stephen Hawking, yapay zekanın insanlığın sonunu bile getirebileceğini yıllar öncesinden söylemişti!

Öncelikle Şunu Netleştirelim: Yapay Zeka Nedir?

Yapay zeka, sisteme işlenen girdiler ve mevcuttaki örnekleri inceleyerek, daha önceden belirlenmiş çıktılar vermek yerine, kendi çıktılarını yaratan algoritmadır.

Amerika’nın dev e-ticaret şirketi Amazon, kendi oluşturduğu yapay zeka projesinin azizliğine uğradı! Reuters’ın haberine göre firma işe alım prosedürlerini hızlandırmak ve otomasyon sağlamak için bir çözüm üretti. 2014 yılında İskoçya’nın Edinburgh kentinde bir mühendis ekibi, 5 farklı kaynaktan doğrulanan bir yapay zeka uygulaması geliştirdi.

Yapay Zeka Amazon

Bu Yapay Zeka Ne Yapacak?

Hesapta yapay zeka uygulaması, Web’de gezinecek ve işe alım için uygun adaylar belirleyecekti. Sistemine 500 farklı işe alım modeli kurulan uygulama, 50 bin anahtar kelimeyi tarıyordu. Yeni nesil insan kaynakları uzmanı bu sayede, şirket çalışanlarının ve geçmişte iş başvurusu yapmış adayların özgeçmişlerini inceliyordu. Arama motoru mantığıyla çalışan bu program 100 özgeçmiş arasından en uygun 5 adayın özgeçmişlerini insan kaynakları birimindeki yöneticilere iletiyordu.

İşler Karıştı…

Her şey tıkırında gidiyordu, ta ki ekipteki mühendislerin, aday özgeçmişlerinin tamamının erkek olduğunu fark edene kadar. Yapay zeka temelli bu arama motoru, cinsiyetçi çıkmıştı ve kadınlardan hoşlanmıyordu.

Teknoloji sektöründe erkek egemen bir topluluk olması, yapay zeka uygulamasında böyle bir probleme yol açmıştı. Algoritmanın verilerini kullandığı Amazon’a ait son 10 yıllık geçmişteki başvuru ve işe alımlarda erkek üstünlüğü bulunuyordu. Erkek adayların daha çok tercih edildiği çıkarımını yapan yapay zeka aramalarında içinde “kadın” kelimesini içeren özgeçmişlerin puanını düşürmeye başladı. Aynı zamanda kız okullarına gittiğini tespit ettiği adayları da filtreliyordu.

YAPAY ZEKA MI ÜSTÜN ZEKA MI?

2017’nin yılın ilk aylarında algoritmaya olan güveninin kaybedilmesiyle Amazon, yapay zeka işe alım projesini sonlandırdı.

Uygulama geliştiriciler her ne kadar gerekli güncellemeleri yapsalar da, adaylar arasında ayrımcılık yapmanın yeni yollarını bulabileceğine ait şüpheleri ortadan kaldıramadılar. Üstelik bu yapay zeka uygulamasının tek sorunu kadın karşıtı cinsiyetçilik yapıyor olması da değildi. Araç bazen şirket profiline ve aranan pozisyona uygun olmayan adayları da süzgeçten geçirebiliyordu.

Aslına bakarsanız yapay zeka, insana ait birtakım ön yargıları ilk kez ortaya çıkarmıyor. Benzer bir çalışmada insana özgü sorunların makinelere aktarıldığına şahit olmuştuk. 2016 yılında yapılan araştırmada hangi suçluların tekrar suç işleme riskinin yüksek olduğu inceleniyordu. Çalışmanın yürütüldüğü yapay zeka da, siyahi insanlara karşı ırk ayrımı yapmıştı.

Yapay Zeka Önyargılar

Amazon’un mühendisleri işe alım sürecinde yapay zekanın verdiği önerileri incelediğini fakat kararlarında sadece danışman olarak yararlandıklarını belirtti. Şirket yetkilileri, iş yerinde çeşitliliğe ve eşitliliğe verdikleri önemi de üstüne basarak tekrarladı.

Yapay Zekanın Haklılık Payı Yok Değil!

Yapay Zeka Yüzdeler

Algoritmaya öğrenmesi için gönderilen özgeçmiş verileri, yapay zekanın neden böyle bir çıktı aldığını aslında açıkça ortaya koyuyor. İşte teknoloji devi bazı şirketlerin kadın çalışan oranları:

  • Amazon: %40
  • Facebook: %36
  • Apple: %32
  • Google: %31
  • Microsoft: %26

Gelişen teknoloji ve değişen dünyaya ayak uyduran kadınları, iş dünyasının tam merkezinde daha kalabalık görme dileklerimizle.

İyi günler.

Paylaş:
Bu yazı 10 Aralık, 2018 tarihinde yayınlanmıştır.

Etiketler:

Faaliyetlerimiz