Tıbbın yeni aktörü Yapay Zekâ: Hız, güç ve etik sınırlar

Son bir ay içinde yapay zekânın tıpta kullanımını üç ayrı konferansta, üç farklı yönüyle ele aldım. Her konuşmada aynı gerçeği yeniden gördüm: Yapay zekâ artık geleceğin değil, bugünün tıbbının konusudur. Klinik karar süreçlerinden radyolojik görüntülemeye, laboratuvar değerlendirmelerinden bilimsel araştırmaya, hasta takibinden akademik makale yazımına kadar tıbbın neredeyse her alanına girmiş durumdadır.

Bu dönüşüm heyecan vericidir. Çünkü yapay zekâ tıbbı hızlandırıyor, kolaylaştırıyor, görünmeyeni görünür kılıyor, büyük veriler içinden anlamlı ilişkiler çıkarabiliyor. Bir hekimin saatlerce sürebilecek literatür taramasını dakikalar içinde özetleyebiliyor; binlerce görüntü arasından şüpheli bulguları işaretleyebiliyor; risk gruplarını daha erken tanımlayabiliyor; yaşlı, kronik hastalığı olan ya da izlem gerektiren hastalarda daha sistematik bir takip olanağı sağlayabiliyor.

Bütün bunlar kuşkusuz değerlidir.

Ama tıp, yalnızca hız mesleği değildir. Tıp, insan hayatına dokunan, sonuçları itibarıyla çoğu zaman telafisi olmayan bir meslektir. Hekimlikte hata, yalnızca teknik bir aksaklık değildir; bazen bir yaşamın yönünü değiştiren, bazen geri dönüşü olmayan sonuçlar doğuran ağır bir sorumluluk alanıdır. Bu nedenle tıpta kullanılan her yeni teknoloji gibi yapay zekâ da yalnızca “ne kadar işe yarıyor?” sorusuyla değerlendirilemez. Asıl soru şudur:

Ne kadar güvenilir, ne kadar adil, ne kadar denetlenebilir ve ne kadar etik?

Yapay zekâ tıpta güçlü bir yardımcı olabilir; ancak hiçbir zaman hekimin vicdanının, mesleki sorumluluğunun ve etik muhakemesinin yerine geçemez. Çünkü yapay zekâ veri işler, örüntü tanır, olasılık hesaplar. Ama hasta karşısında duyulan sorumluluk, acının anlamı, mahremiyetin değeri, kırılganlığın korunması ve insan onurunun sınırları algoritmaların tek başına kavrayabileceği alanlar değildir.

Bugün tıpta yapay zekâ kullanımının en önemli sorunlarından biri, yarar alanı genişlerken etik sınırların aynı hızla belirginleşmemesidir. Teknoloji çok hızlı ilerliyor; ancak hukuk, yönetmelikler ve mesleki standartlar çoğu zaman bu hızın gerisinde kalıyor. Henüz birçok ülkede yapay zekânın tıbbi kararlardaki yeri, sorumluluğun kime ait olduğu, hatalı önerilerde hukuki yükümlülüğün nasıl belirleneceği ve yapay zekâ sistemlerinin ne ölçüde denetleneceği tam anlamıyla açıklığa kavuşmuş değildir.

İşte burada çok temel bir soru ortaya çıkıyor:

Tanımları eksik olan bir alanda yasalar ne kadar koruyucu olabilir?

Eğer yapay zekâ sisteminin tıbbi karardaki rolü tam olarak tanımlanmamışsa, hekimin sorumluluğu nerede başlar, teknoloji firmasının sorumluluğu nerede biter? Bir algoritma yanlış risk değerlendirmesi yaparsa, bir görüntüyü hatalı yorumlarsa, bir hastayı düşük riskli gösterirken aslında ciddi bir bulguyu gözden kaçırırsa sorumluluk kime ait olacaktır? Hekime mi, hastaneye mi, yazılımı üreten şirkete mi, veriyi sağlayan kuruma mı?

Bu soruların açık yanıtları olmadan yapay zekâyı tıpta sınırsız bir güvenle kullanmak doğru değildir. Çünkü tıpta belirsizlik, yalnızca teorik bir mesele değildir; doğrudan hasta güvenliğiyle ilgilidir.

Yapay zekânın tıpta kullanımında bir başka temel etik sorun da mahremiyettir. Tıp, insanın en özel bilgilerinin hekime emanet edildiği alandır. Hastanın bedeni, hastalığı, genetik yapısı, psikolojik durumu, aile öyküsü, yaşam biçimi, kullandığı ilaçlar, hatta kimi zaman en mahrem sırları sağlık kayıtlarında yer alır. Bu veriler yapay zekâ sistemlerinde kullanıldığında, yalnızca teknik bir veri işleme süreci gerçekleşmez; insan mahremiyeti dijital alana taşınmış olur.

Bu nedenle “veri” dediğimiz şey, tıpta asla sıradan bir bilgi yığını değildir. Her sağlık verisinin arkasında bir insan, bir yaşam öyküsü, bir kırılganlık vardır. Hastanın bilgisi olmadan, yeterli anonimleştirme yapılmadan, güvenlik önlemleri alınmadan ya da kullanım amacı açıkça belirtilmeden sağlık verilerinin yapay zekâ sistemlerinde kullanılması ciddi bir etik ihlaldir.

Bir diğer önemli konu adalettir. Yapay zekâ sistemleri hangi verilerle eğitilirse, o verilerin izlerini taşır. Eğer kullanılan veri setleri toplumun tüm kesimlerini yeterince temsil etmiyorsa; yaşlılar, kadınlar, çocuklar, engelliler, kırsal bölgelerde yaşayanlar, düşük gelir grupları ya da farklı etnik ve sosyal gruplar yeterince yer almıyorsa, algoritmalar da bu eksiklikleri yeniden üretir. Böylece yapay zekâ, sağlıkta eşitsizlikleri azaltmak yerine görünmez biçimde derinleştirebilir.

Bu nedenle yapay zekâ yalnızca “akıllı” olmakla yetinemez; aynı zamanda adil olmak zorundadır. Tıpta kullanılan bir algoritmanın başarısı yalnızca doğruluk oranıyla ölçülemez. Kime doğru sonuç verdiği, kimi dışarıda bıraktığı, kimin riskini azımsadığı, kimin tedaviye erişimini kolaylaştırdığı ya da zorlaştırdığı da sorgulanmalıdır.

Yapay zekâ, hekimlik pratiğinde zaman kazandırabilir. Ancak zaman kazanırken insan temasını kaybettirmemelidir. Hekimlik yalnızca tanı koymak ve tedavi düzenlemek değildir. Hekimlik, hastanın gözünün içine bakabilmek, korkusunu anlayabilmek, endişesini duyabilmek, yaşam değerlerini hesaba katabilmek ve tıbbi bilgiyi insanî bir ilişki içinde sunabilmektir.

Bir algoritma hastanın laboratuvar değerlerini analiz edebilir; ama hastanın sessizliğini okuyamaz.
Bir sistem risk skorunu hesaplayabilir; ama hastanın çaresizliğini hissedemez.
Bir yazılım tedavi seçeneklerini sıralayabilir; ama “Bu hasta için iyi olan nedir?” sorusunu değerler bağlamında tek başına yanıtlayamaz.

Tam da bu nedenle tıpta yapay zekâ kullanımında merkezde tutulması gereken ilke şudur: Teknoloji hekimin yerine değil, hekimin yanında olmalıdır.

Yapay zekâ hekimi güçlendirmeli, ama onun sorumluluğunu ortadan kaldırmamalıdır. Karar süreçlerini desteklemeli, ama nihai kararın insani ve mesleki boyutunu gölgelememelidir. Hekimin dikkatini artırmalı, ama eleştirel düşüncesini zayıflatmamalıdır. Hasta güvenliğini yükseltmeli, ama hastayı veri nesnesine indirgememelidir.

Bugün özellikle genç hekimler, araştırmacılar ve akademisyenler için yapay zekâ okuryazarlığı artık bir lüks değil, zorunluluktur. Ancak bu okuryazarlık yalnızca teknolojiyi kullanmayı öğrenmek değildir. Asıl gerekli olan, teknolojinin sınırlarını bilmektir. Yapay zekânın neyi iyi yaptığını, nerede yanılabileceğini, hangi verilerle beslendiğini, hangi önyargıları taşıyabileceğini ve hangi etik riskleri doğurabileceğini anlayabilmek gerekir.

Çünkü yapay zekâya koşulsuz güvenmek de onu tümden reddetmek de doğru değildir. Doğru olan, onu etik ilkelerle yönetmektir.

Tıp etiği bu noktada bize sağlam bir pusula sunar. Yararlılık ilkesi bize yapay zekâyı hastanın iyiliği için kullanmamız gerektiğini söyler. Zarar vermeme ilkesi, teknolojinin hatalarının hastaya bedel ödetmemesi gerektiğini hatırlatır. Özerklik ilkesi, hastanın bilgilendirilmiş onamını ve karar süreçlerine katılımını zorunlu kılar. Adalet ilkesi ise yapay zekânın sağlık hizmetlerinde yeni eşitsizlikler üretmemesi gerektiğini vurgular.

Bu dört temel ilkeye bugün yeni başlıklar da eklenmelidir: şeffaflık, hesap verebilirlik, veri güvenliği, algoritmik adalet ve insan denetimi.

Yapay zekâ çağında tıbbın temel sorusu değişmemiştir. Hâlâ aynı soruyu soruyoruz:

Bu uygulama insanın iyiliğine mi hizmet ediyor, yoksa insanı sistemin içinde görünmez bir veriye mi dönüştürüyor?

Geleceğin tıbbı kuşkusuz yapay zekâ ile daha güçlü olacaktır. Ancak daha güçlü tıp, kendiliğinden daha iyi tıp anlamına gelmez. Daha iyi tıp, teknolojinin insan onuru ile sınırlandırıldığı, hızın dikkatle dengelendiği, verinin mahremiyetle korunduğu, kararın sorumlulukla verildiği tıptır.

Tıpta yapay zekâ bize büyük olanaklar sunuyor. Fakat unutmamalıyız: Tıbbın özü teknoloji değil, insandır. Algoritmalar gelişebilir, sistemler hızlanabilir, makineler öğrenebilir. Ama hekimin vicdanı, hastanın güveni ve insan onuru tıbbın merkezinde kalmadıkça bu gelişmeler eksik kalır.

Bu nedenle yapay zekâ tıpta yeni ve güçlü bir aktördür; fakat sahnenin başrolünde hâlâ insan olmalıdır.

Çünkü tıpta en ileri teknoloji bile şu temel gerçeği değiştiremez:

Hastalık verilerle anlaşılabilir; ama hasta ancak insanla anlaşılır.