1. Ana Sayfa
  2. Yapay Zeka
  3. Yapay Zekanın cinsiyet yanlılığı problemi var

Yapay Zekanın cinsiyet yanlılığı problemi var

63-artificialin

Samsung’un Sanal Kişisel Asistanı Bixby’ye “Hadi pis konuşalım” diyin ve kadın sesi tatlı bir aksanla cevap verecektir: “Noel Baba’nın yaramaz listesine girmek istemiyorum.”

Aynı soruyu programın erkek sesine de sorun ve “Toprak erozyonunun gerçek bir kir sorunu olduğunu okudum” cevabını veriyor.

Samsung, hangi dili seçtiğinize bağlı olarak Bixby’ye çeşitli sesler sunuyor. Amerikan İngilizcesi için Julia, Stephanie, Lisa ve John var. Julia, Lisa ve Stephanie’nin sesleri cilveli ve isteklidir. John zeki ve basittir.

Bixby, Alexa (Amazon), Siri (Apple) ve Cortana (Microsoft) gibi Sanal Kişisel Asistanlar, pazarlanabilir yapay zekanın (AI) üstünlüğündedir. AI, insanların genellikle yapacağı işleri yapmak için teknolojik sistemleri kullanmak anlamına gelir.

Akıllı dilde bir uygulama olarak işlev görürler, ses komutlarına doğal dil işleme yoluyla cevap verir. Dünyadaki yaygınlıkları hızla artıyor. UNESCO tarafından yayınlanan yeni bir raporda , gelecek yılın başlarında sanal kişisel asistanlarımızla eşlerimizden daha fazla sohbet edeceğimizi tahmin ediyor.

Kadın isimleri, sesleri ve programlanmış çapkınlıkları ile, sanal kişisel asistanların tasarımı , cinsiyet klişesine göre, genellikle erkek patronunun sekreteri olmaktan çok öte, kadın sekreterin ayırt edici klişelerini üretir .

İLGİNİZİ ÇEKEBİLİR  Fen bilimleri sınavına giren yapay zeka, sınavı geçmeyi başardı

Ayrıca , kadınların ikincil ve erkeklere boyun eğen rollerini de pekiştiriyor . Bu AI asistanları kullanıcılarının emriyle çalışırlar. Bu komutları reddetme hakları yoktur. Sadece uymak için programlanmışlardır. Tartışmalı olarak, gerçek kadınların nasıl davranması gerektiğine dair beklentileri de arttırıyorlar .

Bu asistanların amacı, kullanıcılarını randevu alma ve çevrimiçi olarak ürün satın alma gibi önemli işlerden kurtarmaktır. Bu, en az iki cephede sorun yaratıyor: kullanıcının daha önemli işler için daha fazla zamana sahip olduğunu gösteriyor. İkincisi, dijital geleceğin ilk önce gerçek kadınlar ve şimdi de dijitalleştirilmiş kadınlar tarafından gerçekleştirilen sekreterlik çalışmalarının değeri hakkında eleştirel bir açıklama yapar .

“Ne giyiyorsun?”

Bu önyargıların belirginleşmesinin daha açık yollarından biri de kadın isimlerinin kullanımıdır : örneğin, Siri ve Cortana. Siri, “sizi zafere götüren güzel kadın” anlamına gelen bir İskandinav adıdır .

Cortana ismini (görsellerin yanı sıra ses) Halo oyun serisinden alır . Halo’da, Cortana şeffaf ve cinselliği yüksek bir kadın vücudu ile evli olan başarılı bir kadın bilim adamının beyninin bir klonundan yaratılmıştır. Alçakgönüllü zekası ve mesmeric şekli ile oyuncular için kurgusal bir yardımcı olarak görev yapıyor.

Kadınların seslerine ek olarak, bugün piyasadaki tüm sanal kişisel asistanlar, Bixby gibi her türlü düşündürücü soru ve yoruma yanıt verecek şekilde programlanmış varsayılan bir kadın sesi ile birlikte geliyor . Bu sorular şunları içerir : “Ne giyiyorsun?” Siri’nin cevabı “Neden bir şey giyeyim ki?”

İLGİNİZİ ÇEKEBİLİR  Samsung Galaxy S20 modeline çıkmadan zam geldi!

Bu arada, Alexa, esprisi: “Benim için kıyafet yapmıyorlar”; Cortana, “Mühendislikte aldığım küçük bir şey” dedi.

AI’da Yanlılık ve Ayrımcılık

AI sistemlerinin, özellikle ırk ve cinsiyet çizgileri boyunca sıklıkla önyargılı olduğu giderek daha fazla kabul görmektedir. Örneğin, iş başvuruları için özgeçmişleri sıralamak üzere Amazon’un son işe alım algoritması gelişimi, “kadın” kelimesini içeren veya kadın kolejlerine referans içeren özgeçmişleri düşürerek cinsiyet önyargıları sergilemiştir. Algoritma, tarihsel veriler ve erkeklerin tercihli olarak işe alınması konusunda eğitildiği için, sonuçta düzeltilemedi ve düşürülmek zorunda kaldı.

Araştırmaların gösterdiği gibi , cinsiyet önyargıları gösteren AI sistemlerinin gelişimi ve onları tasarlayan ekiplerde kadın eksikliği arasında kritik bir bağlantı vardır.

Ancak AI ürünlerinin tasarımlarında cinsiyetin klişeleşmiş temsillerini dahil etme yöntemlerinin daha az tanınması vardır. AI için, AI’nın sosyal etkisine bakan lider bir araştırma kurumu olan erkek egemen AI endüstrisi ile ürettiği ayrımcı sistemler ve ürünler arasında açık bir bağlantı vardır.

Araştırmacıların rolü, bu bağlantıları görünür kılmak ve kadınların kültürel, teknolojik ürünlerde ve gerçek dünyadaki kadınların tedavisi arasındaki temsilleri arasındaki kritik bağlantıları göstermek.

AI, Dördüncü Sanayi Devrimi’nde lider teknolojidir. Biyoteknolojiden AI ve büyük verilere kadar teknolojik gelişmeleri, bildiğimiz gibi dünyayı hızla yeniden şekillendiren ifade eder. Bu değişiklikleri yönlendiren teknolojilerin kadınları nasıl etkileyebileceğini düşünmek ve ele almak giderek daha önemli hale gelecektir.

Yorum Yap