Yapay zekâ doktor olursa…

– Sağlıkta yapay zekânın gerçek meselesişudur: Bunlar hangi hedefe göre çalışaca, kim kontrol edecek ve hatalarının bedelini kim ödeyecek? Dünya Sağlık Örgütü’ne göre 2023’te yaklaşık 4 milyar 600 milyon  insan, temel sağlık hizmetlerini tam olarak alamıyordu. 2030’a gelindiğinde, özellikle düşük ve orta gelirli ülkelerde 11 milyon sağlık çalışanı açığı bekleniyor. Ve şu anda 2 milyar 200 milyon insanın internet bağlantısı bile yok. Yani milyarlarca insan bir muayeneye, bir ilaca, bir sağlık çalışanına ulaşamıyor.

– Peki yapay zekâ teknolojisini zaten iyi hizmet alanların ömrünü biraz daha uzatmak için mi kullanacağız, yoksa sistemin hiç ulaşamadığı insanlara temel bakım götürmek için mi? Piyasanın bu soruya kendiliğinden eşitlikçi bir cevap vereceğini düşünmek saflık olur. Geçen yıl ABD’deki dijital sağlık girişimleri 14 milyar doların üzerinde yatırım aldı; yarısından fazlası yapay zekâ şirketlerine gitti. Paranın büyük bölümü ödeme gücü yüksek hastanelere gitti…

– Doktorlar ve hemşireler günlerinin büyük kısmını hastaya değil ekrana bakarak geçiriyor. Not, reçete, kodlama, faturalama, sigorta onayı, rapor. Altmış altı klinisyenle yapılan bir çalışmada, doktor ile hasta arasındaki konuşmayı dinleyip klinik nota çeviren yapay zekâ sistemleri günlük dokümantasyon süresini yaklaşık otuz dakika azalttı. Tükenmişlik düştü. Günde 30 dakika küçük görünebilir. Binlerce sağlık çalışanıyla çarpın: milyonlarca saatlik insan emeği.

– Sağlık hizmeti yalnızca bilgi değildir. Aynı zamanda altyapı, insan emeği, güven, lojistik ve sorumluluktur. Eşitlikçi sağlık yapay zekâsı, dünyanın yoksullarına ücretsiz bir sohbet robotu dağıtmak değildir. Yerel sağlık çalışanını, tanı cihazını, eczaneyi ve hastaneyi birbirine bağlayan kamusal bir altyapı kurmaktır. Diyelim ki yapay zekâ yanlış bir ilaç önerdi ve hasta ağır zarar gördü. Geliştirici, hastane, doktor ve sigorta şirketi topu birbirine atacak.  Hukukun karşısında bir boş sandalye kalacak.

– Bazıları çözüm olarak yapay zekâlara tüzel kişilik verilmesini tartışıyor. Bence bu tam olarak yanlış yön. Yapay zekâyı hapse atamazsınız, mal varlığı yoksa tazminat alamazsınız. Ona kişilik vermek, asıl sorumluların arkasına saklanacağı hukuki bir perde yaratır.Sorumluluk, kontrolü ve kazancı izlemelidir. Ve hiçbir hasta, ‘algoritma öyle karar verdi’ cümlesiyle baş başa bırakılmamalıdır.

– Mesele teknolojinin iyi ya da kötü olması değil. Bu yüzden başarıyı şu sorularla ölçelim: Kaç insanın hayatı kurtuldu? Kaç hastalık erken bulundu? Kaç sağlık çalışanına zaman geri verildi? Yoksulla zengin arasındaki fark daraldı mı? Hasta, verisini kimin kullandığını biliyor mu? Yanlış bir karara itiraz edebiliyor mu? Ve hata yapan sistemin arkasında gerçek bir sorumlu var mı? Bu sorulara cevap verilmeli.

– Önümüzdeki dönemin en değerli sağlık yapay zekâsı, muhtemelen en insansı görüneni, en güzel konuşanı ya da en büyüğü olmayacak. En değerli sistem; neyi bilmediğini söyleyen, belirsizliğini saklamayan, en az veriyi kullanan, farklı toplum kesimlerinde sınanmış olan, insan emeğini koruyan ve hatasının hesabını verebilen sistem olacak. Yapay zekâ doktor olduğunda son karar yine insana ait olacak: Kimi iyileştirmek istediğimiz kararı.

Gece saat iki buçuğa geliyor. Bir köyde, bir anne, sekiz yaşındaki oğlunun yatağının başında oturuyor. Çocuğun ateşi çıkmış. Nefes alışında bir gariplik var. Dışarıda yağmur. En yakın hastane saatlerce uzakta ve o yol bu havada kapalı.

Elinde tek bir şey var. Telefonu.

Telefonu açıyor. Ekranda bir yapay zekâ ona kendi dilinde sesleniyor. Belirtileri soruyor. Kamerayı çocuğun boğazına tutturuyor. Daha önce hangi ilaçları kullandığını, ailesinde ne olduğunu öğreniyor. Ve bir şey fark ediyor: bu bekleyebilecek bir ateş değil.

En yakın sağlık merkezine haber veriyor. Bir toplum sağlığı çalışanını yönlendiriyor. İlacın yola çıkmasını sağlıyor.

Şimdi size zor bir soru soracağım.

Böyle bir sistem yani bu köydeki bu anneye, bu gece bugün İstanbul’da yaşayan çok varlıklı bir insanın aldığı sağlık hizmetinden daha iyi bir şey sunabilir mi? Evet. Sunabilir.

Ben bu ihtimale inanıyorum…

KİMSENİN SORMADIĞI SORU  

Ama ben bu sahneyi yazarken, siz muhtemelen ikinci soruyu duymadınız. Çünkü ilk soru çok parlak. Göz alıyor.

İkinci soru şu: O yapay zekâ kime ait?

Sizin sağlığınızı mı optimize edecek yoksa sigorta şirketinin maliyetini mi? Sizi tedavi etmeye mi çalışacak, size bir şey satmaya mı? Verilerinizi yalnızca bakım için mi kullanacak; yoksa kredi riskinizi, iş performansınızı, siyasi eğiliminizi ve ne kadar yaşayacağınızı tahmin etmek için mi?

Yıllardır bu alanı izliyorum. Ve şuna vardım: Sağlıkta yapay zekânın gerçek meselesi, makinelerin ne kadar zeki olacağı değil. Asıl mesele hangi hedefe göre çalışacakları, kimin kontrol edeceği ve hatalarının bedelini kimin ödeyeceği.

Bu yazıda size zekâdan değil, direksiyondan bahsedeceğim.

UNUTTUĞUMUZ DİĞER DÜNYA     

Dünya Sağlık Örgütü’ne göre 2023’te yaklaşık 4 milyar 600 milyon  insan temel sağlık hizmetlerini tam olarak alamıyordu. Dünyanın yarısından fazlası.

2030’a gelindiğinde, özellikle düşük ve orta gelirli ülkelerde 11 milyon sağlık çalışanı açığı bekleniyor. Ve şu anda 2 milyar 200 milyon insanın internet bağlantısı bile yok.

Yani bir tarafta dünyanın bütün tıbbi literatürünü saniyeler içinde tarayabilen sistemler geliştiriyoruz. Diğer tarafta milyarlarca insan bir muayeneye, bir ilaca, bir sağlık çalışanına ulaşamıyor.

İşte ahlaki sınav tam burada başlıyor. Bu teknolojiyi zaten iyi hizmet alanların ömrünü biraz daha uzatmak için mi kullanacağız, yoksa sistemin hiç ulaşamadığı insanlara temel bakım götürmek için mi?

Piyasanın bu soruya kendiliğinden eşitlikçi bir cevap vereceğini düşünmek saflık olur.

Geçen yıl ABD’deki dijital sağlık girişimleri 14 milyar doların üzerinde yatırım aldı; yarısından fazlası yapay zekâ şirketlerine gitti. Peki nereye harcanıyor? Büyük bölümü ödeme gücü yüksek hastanelere dokümantasyon, kodlama ve faturalama çözümleri satmaya.

Bunda kötü bir şey yok. Hastanelerin verimli çalışması önemli. Ama şunu bilmek gerekiyor: Ticari olarak kârlı olan şey ile toplum açısından en değerli olan şey aynı şey değildir.

Sıtma, tüberküloz, anne ölümleri, kırsaldaki kronik hastalık takibi gibi… Bunlar milyarlarca insan için hayati önemde ama bunların müşterileri en yüksek bedeli ödeyebilecek kişiler değil.

ÖNCE İYİ HABER  

Şimdi sizi karamsarlığa boğmadan önce, gerçekten iyi olan şeyi anlatayım.

Almanya’da 463 binden fazla kadını kapsayan bir çalışma yapıldı. Yapay zekâ destekli mamografi değerlendirmelerinde kanser saptama oranı yaklaşık yüzde 18 arttı. Üstelik gereksiz geri çağırmalarda belirgin bir artış olmadan.

İsveç’te 100 binden fazla kadının katıldığı randomize bir çalışmada, yapay zekâ destekli tarama iki mamografi arasında ortaya çıkan kanserleri yaklaşık yüzde 12 azalttı. Radyologların okuma yükü ise yüzde 44 düştü.

Bunlar küçümsenecek şeyler değil. Bir tümörün birkaç ay erken bulunması, bir insanın yaşamı ile ölümü arasındaki fark olabilir. Ama burada bir tuzak var ve çoğu haber bu tuzağa düşüyor. Daha fazla hastalık bulmak, her zaman daha fazla hayat kurtarmak demek değildir.

Yapay zekâ, o insanın yaşamı boyunca hiçbir sorun çıkarmayacak küçücük bir lezyonu da bulabilir. Sonucunda gereksiz biyopsiler, ameliyatlar, aylarca süren kaygı ve fatura ortaya çıkar. Yani ‘model daha fazla kanser buldu’ demek yetmiyor. Doğru sorular şunlar: Daha az insan öldü mü? Yaşam kalitesi arttı mı? Gereksiz tedavi azaldı mı? Zenginle yoksul arasındaki fark daraldı mı?

TUHAF BİR PARADOKS       

Şimdi size beni en çok şaşırtan bulguyu anlatacağım. Geçtiğimiz yıl yayımlanan bir çalışmada büyük dil modelleri, klinik senaryolardaki doğru hastalığı tek başlarına yüzde 95’e yakın oranda belirledi. Sonra aynı modelleri sıradan insanların eline verdiler. Sağlık danışmanlığı için kullansınlar diye.

Doğru hastalığı belirleme oranı yüzde 35’in altına düştü. Yapay zekâ kullanan grup, sıradan bir internet aramasından daha başarılı değildi.

Aynı şey hekimlerde de görüldü. 50 hekimle yapılan randomize bir çalışmada, yapay zekâ erişimi tanısal akıl yürütme performansını anlamlı biçimde artırmadı. Oysa model tek başına değerlendirdiğinde yüksek performans gösteriyordu.

Neden? Çünkü insan ile makine arasındaki ilişki, iki zekânın puanını toplamak kadar basit değil. Hekim doğru öneriyi reddedebilir. Yanlış öneriyi kendi önyargısına uyduğu için kabul edebilir. Arayüz, en kritik uyarıyı yüzlerce ayrıntının arasına gömebilir. Bir Formula 1 motorunu traktöre koyduğunuzda Formula 1 aracı elde etmezsiniz.

Motorun gücü kadar direksiyon, fren, sürücü ve yol da önemlidir. Yapay zekânın kapasitesiyle yapay zekâ destekli sağlık sisteminin kapasitesi aynı şey değil.

GOOGLE GRİP SALGININI TAHMİN EDEBİLİR Mİ? 

1854’te Londra’da kolera salgını çıktığında John Snow adında bir hekim, hastalanan insanların yaşadığı yerleri haritaya işledi. Vakaların Broad Street’teki bir su pompasının etrafında toplandığını gördü. Ama bu hikâyenin popüler anlatımı yanlıştır. Snow pompanın kolunu söktürdüğü anda salgın mucizevi biçimde bitmedi; vakalar zaten azalmaya başlamıştı. Snow’un asıl kanıtı, farklı su şirketlerinden su alan haneleri karşılaştırdığı sabırlı bir doğal deneydi. Bu ayrım kritik. Çünkü yapay zekânın en iyi olduğu şeylerden biri korelasyon bulmak. Ama korelasyon, neden demek değildir.

Google, insanların arama davranışından grip salgınlarını tahmin etmeye çalıştı. Sistem bir süre mükemmel göründü. Sonra 2013’te ABD’deki grip düzeyini resmî verilerin iki katından fazla tahmin etti. Çünkü model yalnızca hastalığı değil, medya haberlerinin ve insanların panik arama alışkanlığının değişmesini de öğrenmişti.

Büyük veri bizi nedensellikten kurtarmıyor. Tam tersine; ne kadar çok veri varsa, anlamsız kalıp bulma ihtimali de o kadar artıyor.

Yapay zekâ, John Snow’un haritasını saniyeler içinde çıkarabilir. Ama o haritadaki ilişkinin gerçekten hastalığa yol açıp açmadığını anlamak için hâlâ sahaya, laboratuvara ve insan muhakemesine ihtiyacımız var.

FİKRİMİ DEĞİŞTİREN ARAŞTIRMA      

Size bu konudaki fikrimi değiştiren araştırmadan bahsedeyim. ABD’de milyonlarca hastayı etkileyen bir sağlık algoritması, kimin ek bakıma ihtiyacı olduğunu tahmin ediyordu. Ama hastalık düzeyini ölçmüyordu. Geçmiş sağlık harcamalarını ölçüyordu.

Siyah hastalar tarihsel olarak sisteme daha az erişebildiği için onlara daha az para harcanmıştı. Algoritma da daha az harcamayı ‘daha az hasta’ diye okudu.

Sonuç: Aynı risk puanındaki siyah hastalar, beyaz hastalardan daha hasta oldukları hâlde ek bakım programına daha az alınıyordu. Önyargı düzeltildiğinde programdan yararlanacak Siyah hasta oranı yüzde 17’den yüzde 46’ya çıktı.

Şimdi dikkat edin. Bu algoritma ırkçı olduğu için bunu yapmadı. Irkçılığı bilmesine bile gerek yoktu. Toplumdaki eşitsizliği maliyet verisinden öğrendi ve onu bizden çok daha hızlı uyguladı. Bu yüzden “veride ırk yoksa, cinsiyet yoksa, ayrımcılık da yoktur” diyemeyiz. Posta kodu, gelir, meslek, konuşulan dil, hatta kullanılan cihazın markası aynı ayrımı dolaylı yoldan yeniden kurabilir.

Yapay zekâ çoğu zaman önyargıyı icat etmez. Onu ölçeklendirir.

EVRAKLARA ZAMAN VAR, HASTAYA YOK      

En parlak senaryoları ele alırken çok sıradan ama çok önemli bir alanı atlıyoruz: bürokrasi. Doktorlar ve hemşireler günlerinin büyük kısmını hastaya değil ekrana bakarak geçiriyor. Not, reçete, kodlama, faturalama, sigorta onayı, rapor. Altmış altı klinisyenle yapılan bir çalışmada, doktor ile hasta arasındaki konuşmayı dinleyip klinik nota çeviren yapay zekâ sistemleri günlük dokümantasyon süresini yaklaşık otuz dakika azalttı. Tükenmişlik düştü.

Günde 30 dakika küçük görünebilir. Binlerce sağlık çalışanıyla çarpın: milyonlarca saatlik insan emeği.

Ama şimdi asıl soru geliyor. O 30 dakika kime gidecek?

Hastane yönetimi bunu doktorun nefes alması için mi kullanacak yoksa ‘madem zaman kazandın, günde beş hasta daha bak’ mı diyecek?

Teknoloji aynı kalıyor. Sonuç tamamen değişiyor. Verimlilik kazancı insanlara zaman olarak geri verilmiyorsa, sistem daha insani olmaz. Yalnızca daha hızlı olur.

YAPAY ZEKA TEŞHİSİ KOYDU YA SONRA?    

Başta anlattığım köye dönelim. Diyelim ki orada gerçekten internet var ve yapay zekâ en doğru teşhisi koydu.

Sonra ne olacak?

Tansiyonu ölçecek cihaz var mı? Kan testi yapılabiliyor mu? İlacı yazabilecek lisanslı kişi kim? İlaç köye nasıl gidecek? Hasta kötüleşirse onu kim taşıyacak? En yakın yoğun bakım kaç saat uzakta? Ve sistem hata yaparsa o aile kimin kapısını çalacak?

Sağlık hizmeti yalnızca bilgi değildir. Aynı zamanda altyapı, insan emeği, güven, lojistik ve sorumluluktur.

Ruanda’da yapılan bir çalışma bunu güzel gösterdi. Diyabetik retinopati taramasında yapay zekâ göz görüntüsünü aynı ziyaret sırasında analiz edip sevk sürecini hemen başlattığında, göz kliniğine başvuru oranı yüzde kırktan yüzde elli ikiye çıktı. Buradaki başarı yalnızca algoritmanın görüntüyü doğru okuması değildi. Sonucun o anda verilmesi, hastaya açıklanması ve sevkin hemen başlatılmasıydı.

Değer modelin içinde değil, bakım yolunun tamamında ortaya çıktı.

Eşitlikçi sağlık yapay zekâsı, dünyanın yoksullarına ücretsiz bir sohbet robotu dağıtmak değildir. Yerel sağlık çalışanını, tanı cihazını, eczaneyi ve hastaneyi birbirine bağlayan kamusal bir altyapı kurmaktır.

YANLIŞ TEŞHİS VE SONRASI       

Bir şey daha var ve bunu yazmadan duramam… Diyelim ki yapay zekâ yanlış bir ilaç önerdi ve hasta ağır zarar gördü. Geliştirici diyecek ki: ‘Biz yalnızca modeli ürettik.’ Hastane diyecek ki: ‘Sistem onaylıydı.’ Doktor diyecek ki: ‘Önerisine güvendim.’ Sigorta şirketi diyecek ki: ‘Biz sadece maliyet yönetimi yaptık.’

Sonunda herkes küçük bir parçadan sorumlu olduğunu söyleyecek ve bütünden hiç kimse sorumlu olmayacak.

Hukukun karşısında bir boş sandalye kalacak.

Bazıları çözüm olarak yapay zekâlara tüzel kişilik verilmesini tartışıyor. Bence bu tam olarak yanlış yön. Yapay zekâyı hapse atamazsınız, mal varlığı yoksa tazminat alamazsınız. Ona kişilik vermek, asıl sorumluların arkasına saklanacağı hukuki bir perde yaratır.

Sorumluluk, kontrolü ve kazancı izlemelidir. Ve hiçbir hasta, ‘algoritma öyle karar verdi’ cümlesiyle baş başa bırakılmamalıdır.

DİREKSİYON HALA BİZDE       

Önümüzde iki basit gelecek yok. Bir tarafta bütün doktorların ortadan kalktığı kusursuz bir ütopya, diğer tarafta herkesin izlendiği bir distopya yok. Büyük ihtimalle ikisinin parçalarını aynı anda yaşayacağız.

Bazı sistemler kanseri erken bulacak. Bazıları yanlış bilgi verecek. Bazıları doktora zaman kazandıracak. Bazıları sigortanın talepleri daha hızlı reddetmesine yardım edecek. Bazıları uzak köylere bakım götürecek. Bazıları yalnızca çok zenginlerin ömrünü uzatacak.

Mesele teknolojinin iyi ya da kötü olması değil. Mesele hangi kullanımın ödüllendirileceği, hangisinin yasaklanacağı, hangisinin kamu tarafından finanse edileceği.

Bu yüzden başarıyı şu sorularla ölçelim:

Kaç insanın hayatı kurtuldu? Kaç hastalık erken bulundu? Kaç sağlık çalışanına zaman geri verildi? Yoksulla zengin arasındaki fark daraldı mı? Hasta, verisini kimin kullandığını biliyor mu? Yanlış bir karara itiraz edebiliyor mu? Ve hata yapan sistemin arkasında gerçek bir sorumlu var mı?

Önümüzdeki dönemin en değerli sağlık yapay zekâsı, muhtemelen en insansı görüneni, en güzel konuşanı ya da en büyüğü olmayacak.

En değerli sistem; neyi bilmediğini söyleyen, belirsizliğini saklamayan, en az veriyi kullanan, farklı toplum kesimlerinde sınanmış olan, insan emeğini koruyan ve hatasının hesabını verebilen sistem olacak.

Konuşmanın başındaki anneyi hatırlıyor musunuz? Gece iki buçukta, yağmurda, ateşli çocuğun başında.

Onun ihtiyacı bir sohbet robotu değildi. Ve onun ihtiyacı; gerçek bir sağlık çalışanına, güvenilir bir tanıya, ulaşabildiği bir ilaca ve hesap verebilen bir kuruma bağlanmaktı.

Yapay zekâ bunun tam merkezinde olabilir. Bu benim umudum; direksiyonda kimin oturacağına hâlâ biz karar veriyoruz.

Yapay zekâ doktor olduğunda son karar yine insana ait olacak: Kimi iyileştirmek istediğimiz kararı.

Zuhal MANSFIELD

TMG Doğaltaş Madencilik Sanayi Yönetim Kurulu Başkanı

mansfield@turcomoney.com