1. Ana Sayfa
  2. Yapay Zeka
  3. Yaygın bir sağlık hizmetleri algoritmasındaki önyargı, orantısız şekilde siyah hastaları incitiyor

Yaygın bir sağlık hizmetleri algoritmasındaki önyargı, orantısız şekilde siyah hastaları incitiyor

102319_sg_health-care-algorithm-bias_feat-1028x579

Araştırmacılar, makine öğrenmesi programına yapılan basit düzeltmelerin eşitsizliği ortadan kaldırabileceğini söylüyor

Abone Ol

Bir araştırma, hastanelerin özel sağlık hizmetlerine erişimden en fazla faydalanabilecek yüksek riskli hastaları tespit etmelerine yardımcı olan yaygın olarak kullanılan bir algoritma ırksal olarak önyargılı olduğunu ortaya koyuyor.

Araştırmacılar, 25 Ekim tarihli Bilim Raporunda, bu algoritmadaki ırksal önyargının ortadan kaldırılmasının diyabet, anemi ve yüksek tansiyon gibi kronik sağlık sorunlarından kaynaklanan komplikasyonları azaltmayı amaçlayan özel programlar için otomatik olarak uygun olan siyah hastaların yüzdesinin iki katından fazla olabilir .

Bu araştırma, “algoritmayı nasıl çözdüğünüzü, önyargı kaynaklarını ve çalıştığı mekanizmaları nasıl anladığınızı, bunun için nasıl düzeltebileceğinizi” gösteriyor, diyor Stanford Üniversitesi biyo uzmanı David Magnus, çalışmaya dahil edilmedi.

Hangi hastaların daha fazla bakım alması gerektiğini belirlemek için, son on yıldaki sağlık hizmetleri sistemleri, geçmiş örnekleri inceleyen ve tam bir görevin nasıl yapılacağını öğrenecek kalıpları tanımlayan makine öğrenme algoritmalarına dayanmaktadır.

[mailpoet_form id=”1″]

Piyasadaki en iyi 10 sağlık algoritması – çalışmada analiz edilen Impact Pro dahil – gelecekteki maliyetleri tahmin etmek için hastaların geçmiş tıbbi maliyetlerini kullanır Öngörülen maliyetler, sağlık hizmeti ihtiyaçları için bir vekil olarak kullanılır, ancak harcama en doğru ölçüm olmayabilir. Araştırmalar, siyah hastalar beyaz hastalar kadar hasta veya hasta olduklarında bile, doktor ziyaretleri ve reçeteli ilaçlar dahil olmak üzere sağlık hizmetlerine daha az para harcadıklarını göstermektedir. Araştırmacılar, tıbbi hizmetlere eşit olmayan erişim ve sağlık hizmeti verenlerin siyah insanları arasında tarihsel bir güvensizlik de dahil olmak üzere, bu eşitsizliğin birçok nedenden dolayı var olduğunu söylüyor. Bu güvensizlik kısmen Tuskegee deneyi  gibi olaylardan kaynaklanıyor.), sifilizli yüzlerce siyah erkeğin on yıllarca tedavi edilmediği kabul edildi.

İLGİNİZİ ÇEKEBİLİR  Yapay Zeka Ticareti Nasıl Geliştirebilir?

Bu hatalı ölçümün bir sonucu olarak, Berkeley Kaliforniya Üniversitesi’nde bir makine-öğrenme ve sağlık politikası uzmanı olan çalışma ortak yazar Ziad Obermeyer, “bu insanlara [sağlık hizmetleri] programları için yanlış insanlara öncelik veriliyor” diyor.

Makine öğrenmesi algoritmalarındaki önyargı ile ilgili endişeler – ki şu anda hastalıkların teşhisine yardımcı olmak ve diğer faaliyetlerin yanı sıra suç faaliyetini tahmin etmek – yeni değildir . Ancak araştırmacılar algoritmaları eğitmek için kullanılan verilere nadiren erişebildiklerinden, önyargı kaynaklarının yalıtılması zordur.

Bununla birlikte, Obermeyer ve meslektaşları, Impact Pro’yu kullanan ve bu algoritmayı yürürlüğe koyan ve işleten verilerin hastanenin sunucularında mevcut olduğunu fark eden akademik bir hastanesi (araştırmacıların isimlendirmeyi reddettiği) ile başka bir proje üzerinde çalışıyorlardı.

İLGİNİZİ ÇEKEBİLİR  Robot insanları izleyerek yemek masasını kurmayı öğreniyor

Bu yüzden ekip, 2013-2015 yılları arasında o hastanede birinci basamak doktorları olan hastalar hakkındaki verileri analiz etti ve beyaz olarak tanımlanmış 43.539 hastayı, siyah olarak tanımlanmış 6.079 hastayı yakınlaştırdı. Algoritma, özel sağlık sigortası veya Medicare ile sigortalı olan tüm hastalara, geçmiş sağlık bakım maliyetlerine dayanan bir risk puanı vermiştir.

Aynı risk skoruna sahip hastalar teorik olarak eşit derecede hasta olmalıdır. Ancak araştırmacılar, siyah beyaz hasta örneklerinde, beyaz hastalarla aynı risk skoruna sahip siyah hastaların ortalama olarak daha kronik hastalıklara sahip olduğunu bulmuşlardır. Örneğin, yüzde 97’yi geçen risk puanları için, örneğin, uzmanlık programlarına kaydolmak için hastaların otomatik olarak tanımlanacağı nokta, siyah hastalarda beyaz hastalara göre yüzde 26,3 daha fazla kronik hastalığa – ya da beyaz hastalara kıyasla ortalama 4.8 kronik hastalığa sahipti. 3.8. Yüzde 97’sinin üstündeki hastaların beşte birinden azı siyahtı.

Obermeyer, algoritmanın önyargılı değerlendirmesini, uzmanlık programlarına girmeyi bekleyen hastalara benzetiyor. Herkes risk skoruna göre sıralanır. Ancak, “önyargı nedeniyle” diyor, “sağlıklı beyaz hastalar siyah hastaların önüne geçmeye devam etse de, siyah hastalar daha hasta olmaya devam ediyor”.

İLGİNİZİ ÇEKEBİLİR  Yapay zeka hangi suçlunun tekrar suç işleyeceğini insanlardan daha iyi tahmin ediyor

Obermeyer ekibi, sağlık harcaması yerine hasta sayısını kronik hastalıklara göre sıraladığında, siyah hastalar hastaların yüzde 17,7’sinden yüzde 97’sinin üstünden yüzde 46,5’e çıktı.

Obermeyer ekibi algoritmayı geliştirmek için Impact Pro’nun yapımcısı Optum ile ortaklık kuruyor. Şirket bağımsız olarak yeni analizi kopyaladı ve siyah beyaz hastalar arasındaki kronik sağlık sorunlarını, yaklaşık 3,7 milyon sigortalı ulusal veri setinde karşılaştırdı. Risk puanları boyunca, siyah hastalarda ırksal önyargının kanıtı olarak beyaz hastalardan neredeyse 50.000 daha kronik durum vardı. Hem geçmiş sağlık hizmetleri maliyetlerine hem de önceden var olan koşullar da dahil olmak üzere diğer ölçütlere dayanmak üzere algoritmayı yeniden incelemek, siyah ve beyaz hastalar arasındaki kronik sağlık koşullarındaki eşitsizliği her risk puanında yüzde 84 azalttı.

Özel programlar için altyapı zaten mevcut olduğundan, bu araştırma, sağlık bakım algoritmalarının sabitlenmesinin en acil hastaları programlara hızlı bir şekilde bağlayabildiğini gösteriyor, diyor Johns Hopkins Üniversitesi’nde makine öğrenme ve sağlık araştırmacısı Suchi Saria. “Kısa sürede, bu eşitsizliği ortadan kaldırabilirsiniz.” 

Yorum Yap