Sana Güvenelim mi Yapay Zeka?

Dr. Ayşe Ergüven Ph.D Biol.

Yapay zekâ, veri kullanan bir yeni kavram, dünyada oluşturulan verileri bilgisayar kavramları ile birleştirerek yaratılmış hepimize çok cazip gelen ama bir o kadar da ürküten bir alan.

Kullanıldığı yerler algoritmik olarak büyüyor her geçen gün, öyle ki veri oluşturursanız falınıza bile bakıyor. Veri çeşitliliği aynı zamanda sistemin öğrenmesine, çeşitli alanlarda kullanılan cihazların düşünmesine, öğrenmesine ve bu şekilde sistemler içine uyum sağlamasına neden olan bir yaşam şekline dönüşüyor. Hatta bazı alanlarda yapay zekâya sormadan duramıyoruz. 

Modern tıp uygulamalarında yapay zekâ

Modern tıp uygulaması ister hastanın öyküsünde ister fizik muayenesinde ister laboratuvar sonuçlarında veya tedaviye yanıtta olsun, örüntü, yani elde edilen verileri üst üste tanımlama ve değerlendirme, üzerine kuruludur. Yetenekli bir hekim, kritik örüntüleri erken tespit edebilir ve bunları aldatıcı bir şekilde birbirine benzer görünenlerden ayırt edebilir. Ancak bazı örüntüler, kırmızı alarm zillerini çaldırmak için fazla kaotik, fazla belirsiz veya geçici olabilirler. Örneğin, hiçbir doktor rutin kan testleriyle erken evre pankreas kanserini güvenilir bir şekilde tespit etmeye çalışmaz. Bir tümörün yayılıp yayılmayacağı veya bir kişinin ne kadar yaşayabileceği gibi geleceğe dair bilgi gerektiren, son derece önemli birçok sorunun cevabı, bu nedenle özneldir; genellikle bir hekimin kümülatif deneyimine yani "içgüdülerine" dayanır. Tıpta öznelliği azaltmanın bir yolu, etiketli verilerden öğrenerek örüntüleri tespit edebilen bilgisayar modelleri oluşturmaya dayalı bir teknik olan gözetimli makine öğrenmesidir. 

Bu anda algoritma denilen kurgulama sistemi devreye girer hemen, bu sistem de makine öğrenimine dayanır. Ancak, tıp alanında makinenin öğrendiği kabul edilerek (machine learning) kontrol edilmeden kullanılması, elde olan hasta bilgilerini çarpıtabilir ve kısa vadeli faydalar uğruna uzun vadeli veri güvenilirliğini feda edebilir diyor araştırıcılar.

Bunu anlamak için bir basit örneklendirme yapabiliriz mesela. Tümör içeren veya içermeyen birçok mamogram görüntüsünü inceleyerek oluşturulan modellemeler, insan gözü için belirgin olmayan etiketlenmiş görüntüleri ve bunların bir araya gelmesinden ortaya çıkan istatistiksel özellikleri nasıl tanıyacaklarını öğrenebilirler. Bu modellemeler hızla yayılırken pek çok araştırma merkezi bu konuda öncü olabilmek için yarışıyorlar. Tümör yayılımı, organ yetmezliği veya dar kapsamlı protokole bağlı tedavi yöntemleri kullanılmasını gerektiren vakalarda, birinin durumunun nasıl gelişebileceğine dair doğru bilgi, tedavi için kullanılacak maddi kaynakları hasta ve/veya hastane açısından azaltabilir; tedavi sürecinin kısalmasını, hastanın maruz kalacağı acının azalmasını daha da önemlisi hayatının kurtulmasını sağlayabilir. Bu nedenle tıp alanında yapay zekâ kullanımının yaygınlaşması çok hızlı gelişiyor. Sadece 2024'te, bu alanda önemli bir veritabanı olan PubMed de hasta sağlığı ve klinik tıpta yapay zekâ, makine öğrenimi veya derin öğrenmeden (deep learning) bahseden 26.000'den fazla çalışmayı bünyesine aldı. Sağlık hizmetlerinde küresel yapay zekâ pazarının bu yılın sonuna kadar 46 milyar ABD dolarını ve 2030'a kadar 200 milyar ABD dolarını aşması öngörülüyor.

Önyargılar aşılabilir mi?

Ancak bu büyüme ile yapay zekânın tıptaki uygulamalarındaki önyargılar, onun yaşam döngüsü içinde ortaya çıktı, birleştikçe büyüdü, önem kazandı.  Bu önyargılar, özellikle klinik karar almayı içeren uygulamalarda önemli sonuçlara yol açabilecek noktaya geliyor. Yapay zekâya önyargılı davranmak standartların altında klinik kararlar alınmasına neden olabilir, gereksiz yere süreci uzatır. Önyargılar, veri özelliklerinde, etiketlerinde, model geliştirme ve değerlendirmesinde, dağıtımda ve hatta yayınlarda ortaya çıkabilir. Bu önyargılar genellikle belirli hasta grupları için yetersiz örnekleme büyüklüklerine, ideal olmayan performansa, algoritmanın eksik yapılanmasına ve klinik olarak geçersiz tahminlere dayanmaktadır. Sağlıkta hastanın sosyal durumunu anlatan belirleyiciler gibi genellikle kolayca yakalanamayan veriler de dahil olmak üzere eksik hasta bulguları, eksik tanı kodları gibi yakalanabilir ancak rastgele olmayan eksik veriler ve önyargılı model oluşturulmasına yani algoritmanın doğru olmayan veriler ile oluşmasına neden olur. O adımdan sonraki her adım da yanlış döngüler oluşturur, hatalı sonuçlara yol açabilir. Gözetimli öğrenme modellerini eğitmek için kullanılan uzmanca eklenmiş olduğu düşünülen ancak doğru olmayan etiketler, bilişsel önyargıları veya standartların altında bakım uygulamalarını da yansıtabilir. Model geliştirme sırasında performans ölçümlerine aşırı güvenmek de önyargıyı gizleyebilir ama modelin klinik faydasını da azaltabilir. Makine eğitimi sırasında kullanılan veriler bu eğitim dışındaki verilere uygulandığında, model performansı kötüleşebilir. Bu durum kendini alt gruplar arasında farklı şekilde davranarak ortaya çıkabilir. Son kullanıcıların dağıtılan bu çözümlerle nasıl etkileşim kurduğu da diğer bir önyargı oluşumu kaynağı olabilir. Son olarak, modellerin nerede ve kim tarafından geliştirilip yayınlandığı, gelecekteki tıbbi yapay zekâ gelişiminin gidişatını ve önceliklerini etkiler. Önyargıyı azaltmak için olabilecek çözümler ise büyük ve çeşitli veri kümelerinin toplanması, istatistiksel olarak önyargıyı giderme yöntemlerinin uygulanması, kapsamlı model değerlendirmesi, model yorumlanmasına vurgu gibi şeffaflık gerekliliklerini içeren yöntemler olabilir mesela. Klinik ortamlarda, gerçek uygulamaya geçmeden önce, tarafsızlığı göstermek için klinik deneyler yoluyla titiz bir doğrulama yapmak kritik öneme sahiptir. Çünkü sisteme konulan veriler her şeyi bir anda bozabilir veya öylesine katma değer yaratır ki insanlık için vazgeçilmez olur. Dünyada araştırıcılar şu anda bunları çözebilmek için çalışmalarını yönlendiriyor. 

Yapay zekânın tıp alanında hekimlerin yerini alması beklenmiyor. Sadece tanı koymayı hızlandıran, tedaviyi kişiselleştiren, kanıta dayalı kararları destekleyen güçlü bir ortağa dönüşüyor.

Ancak önyargılara dikkat etmek ve süreçte onları yok saymamak gerektiğini tekrar vurgulamak lazım bu noktada.  Önemli olan alınan tedbirlerle önyargıların oluşturabileceği sürecin doğru yönetilmesi çünkü bunun tersi durumlar önemli riskler içeriyor. Yapılan araştırmalar, önyargıları ortadan kaldırmak için çeşitli ve kapsamlı veri kümeleri üzerinde, gelişmiş istatistiksel yöntemlerin uygulanması ve net raporlama standartlarının geliştirilmesinin önemini vurguluyor. Bunlar da tıbbi yapay zekânın herkes için yüksek kaliteli klinik bakımı getirecek eşit çalışma koşulları ile desteklendiği bir geleceğin temel bileşenlerini oluşturuyor.

Yazının sonunda bu yazı için kullandığım fotoğrafa odaklanmanızı istiyorum. Bu fotoğrafa anlık bakarsanız “yeni ay” dersiniz. Bu sizin ilk verinizdir, bunu yazarsınız sisteme. Yeterli midir? Hayır tabii ki. Bu fotoğrafın nerede, ne zaman, hangi koşullarda çekildiği, kullanılan fotoğraf makinası, çekim ayarları, çekenin fotoğrafçılık bilgisi, kayıt tutma becerisi ve dürüstlüğü bu fotoğrafın çeşitli alt verilerini oluşturur. Bu verileri sisteminize eklediğinizde yapay zekâ sisteminin daha doğru sonuca ulaşmasını sağlayabilirsiniz yani yapay zekâ size böyle bir fotoğrafla ilgili önyargısız, doğru, güvenilir geribildirim yapabilir ve   size fotoğrafın diğer detayları hakkında kendi sistemi içinde topladığı diğer bilgileri sunabilir. Yani ortak çalışarak “yeni ay” gibi tek bir bilgiyi yapay zekâ algoritması ile kullanılabilecek bir rapora dönüştürebilirsiniz. Tıpkı bir hastanın mamografi görüntüsünden elde edilebilecek rapor gibi.

Elimizdeki değerleri doğru bilgiler ile destekleyeceğimiz, besleyeceğimiz günlere kavuşmak dileği ile Zafer Bayramınız kutlu olsun.

Fotoğraf: Berat Dikme

29.07.2025 

Yenimahalle Ankara

Kamera: Sony dcr sx53

1. https://www.nature.com/articles/d41586-025-01946-8
2. https://pmc.ncbi.nlm.nih.gov/articles/PMC11542778/