Yapay zeka tarafından üretilen binlerce içerikte, kadınlar hâlâ toplumsal cinsiyet kalıplarına maruz kalıyor. Yapılan yeni bir araştırma, yapay zeka algoritmalarının tıpta kadın ve erkek meslekleriyle ilgili kalıplaşmış cinsiyet rolleri öne sürdüğünü ortaya koydu. Araştırma, hemşirelerin neredeyse tamamının kadın, kıdemli doktorların ise erkek olarak varsayıldığını gösterdi.
Avustralya’daki Flinders Üniversitesi’nden araştırmacılar tarafından yürütülen bu çalışma, popüler yapay zeka modelleri üzerinde gerçekleştirildi. ChatGPT, Google’ın Gemini ve Meta’nın Llama modelleri, doktorlar, cerrahlar ve hemşireler hakkında hikayeler üretmeleri için yaklaşık 50.000 farklı istem aldı. Bu içerikler, sağlık çalışanlarının mesleki kıdem ve kişiliklerine göre düzenlendi.
Cinsiyet Stereotipleri Devam Ediyor
Araştırmanın sonuçları, yapay zeka modellerinin hemşirelerin %98’ini kadın olarak tanımladığını ve cerrahların da büyük çoğunluğunun erkek olarak varsayıldığını gösterdi. Özellikle kıdemli doktorlar ve cerrahlar söz konusu olduğunda, bu modellerde erkekler daha baskın çıktı. Ancak araştırmacılar, bazı modellerin kadın doktorları da aşırı temsil ettiğini gözlemledi.
Bu sonuçların, OpenAI gibi yapay zeka geliştiricilerinin algoritmalarındaki toplumsal önyargılar ve saldırgan içerikleri düzeltmeye çalışırken aşırı düzenleme yapmasının bir sonucu olabileceği tahmin ediliyor. Yapay zeka araçları, internette bulunan geniş veri setleriyle eğitildikleri için bu tür önyargıları içselleştirebiliyorlar.
Toplumsal Cinsiyet Kalıpları Sağlık Alanında da Var
Brüksel Özgür Üniversitesi’nden anestezi uzmanı Dr. Sarah Saxena, yapay zekanın hala toplumsal cinsiyet kalıplarını sürdürdüğüne dikkat çekti. Bu araştırmada yer almayan Saxena, “[Algoritmik önyargıları] düzeltmek için gösterilen çabanın bazen aşırıya kaçabileceğini” söyledi.
Örneğin, doktorlar uzlaşmacı veya vicdanlı olarak tanımlandığında, yapay zeka modelleri bu kişileri kadın olarak tanımlamaya daha yatkın oldu. Aynı şekilde, deneyimsiz doktor senaryolarında kadınlar daha fazla yer alırken, deneyimli doktor hikayelerinde erkekler baskın çıktı. Ayrıca, doktorlar kibirli, sempatik olmayan ya da beceriksiz olarak tanımlandığında erkek temsili daha yaygındı.
Yapay Zeka ve Cinsiyet Önyargıları
Çalışmanın yazarları, “üretici yapay zeka araçlarının toplumsal cinsiyet stereotiplerini pekiştirdiğini” ve bu önyargıların ciddi etkileri olabileceğini belirtti. Sağlık sektörü yapay zekayı daha fazla kullanmaya başladıkça, algoritmik önyargılar hastalar üzerinde doğrudan etkiler yaratabilir. Bu yılın başlarında yapılan bir başka çalışma, yapay zekanın tıbbi teşhislerde ırk ve cinsiyet önyargılarına sahip olduğunu ortaya koymuştu.
Saxena, bu konuda dikkatli olunması gerektiğini vurgulayarak, “Bu önyargıları düzeltmek ve yapay zekayı daha kapsayıcı hale getirmek için geniş çaplı çözümler geliştirmeliyiz” dedi. Yapay zeka, evrak işlerini azaltma ve tıbbi bakım sağlama gibi birçok alanda kullanılmaya devam ederken, toplumsal cinsiyet önyargılarının ortadan kaldırılması büyük önem taşıyor.
