Sağlıkta yapay zekâ: Kaliforniya'da üç tasarı vali kararında

Üç tasarı da Ağustos sonunda iki meclisten geçti. SB 503, 30 Ağustos'ta; AB 1979, 4 Eylül'de; AB 2575 ise 15 Eylül'de valiye sunuldu. 25 Eylül itibarıyla resmi yasama sitesinde üçü için de valinin işlemi görünmüyor.

Burada Kaliforniya Anayasası (Madde IV, Bölüm 10) belirleyici. İkinci yasama yılında 1 Eylül'den önce kabul edilen ve valide bulunan tasarı, 30 Eylül'e kadar iade edilmezse yasalaşıyor. Bu yüzden önümüzdeki günlerde imza, veto ya da sessiz onay beklenmeli.

Aynı dönemde vali, çocuklara yönelik bir dizi dijital güvenlik yasasını imzaladı. Valilik açıklamasına göre "Adam Yasası" diye anılan SB 1119, arkadaş sohbet botlarında çocuklar için kriz protokolü istiyor. İntihar düşüncesi durumunda protokol, ebeveyn denetimi ve güvenlik ayarı kapatılınca bildirim bunlardan bazıları. Şirketlere bağımsız çocuk güvenliği denetimi ve yıllık risk değerlendirmesi de getiriliyor.

Üç metin de "klinik karar destek sistemi" kavramını benzer tanımlıyor. Bu, bakım zamanlaması, tanı ya da tedavi kararına yardım eden öngörü, sınıflama veya öneri üreten yapay zekâ sistemi. Randevu, hatırlatma ve ödeme gibi işlevler tanımın dışında tutuluyor.

SB 503 (yanlılık): Geliştiriciler ve kullanan kurumlar, korunan özelliklere göre zarar doğurabilecek sistemleri belirlemek için makul çaba gösterecek. Geliştirici; eğitim verisinin özetini, demografik temsiliyeti, performans testlerini ve sınırlılıkları kuruma verecek. Hastane, klinik ve muayenehane de bu sistemleri düzenli izleyip orantılı önlem alacak. Tasarı eyalet Temsilciler Meclisi'nden (Assembly) 70'e karşı 1 oyla geçti.

AB 1979 (lisanslı iş): Kurumlar, klinik karar desteği kullanılırken lisanslı profesyonelin bağımsız yargısını koruyacak makul adımlar atacak. Yasanın lisans şartı koyduğu bir klinik işlevi yapay zekânın bağımsız yapması yasaklanıyor. Yapay zekânın lisanssız personeli böyle bir işte yönlendirmesi de yasak kapsamında. Hekim ihlalleri eyalet tıp kurulunun (Medical Board of California) yetkisinde; eğitimdeki kursiyerler ve rutin iletişim otomasyonu istisna.

AB 1979'un ikinci ayağı mahremiyet. Tüketiciye sağlık hizmeti desteği olarak pazarlanan sohbet botu sunan işletmeler, eyaletin tıbbi bilgi gizliliği yasası (CMIA) açısından sağlık hizmeti sunucusu sayılacak. Böylece bu botlara verilen sağlık bilgisi, hekime verilen bilgiye benzer korumaya girecek.

AB 2575 (sorumluluk): Klinik karar destek sistemini geliştiren, değiştiren, seçen veya kullanan bir davalı yeni bir savunmayı kullanamayacak. Hekimin ya da sağlık çalışanının çıktıyı geçersiz kılmamasını, sorumluluğu kesen neden olarak ileri süremeyecek. Diğer savunmalar ve kusur paylaşımı delilleri ise saklı.

Bunlar yasa metinleri, klinik çalışma değil. Yanlılığın ölçülmesi ve "makul çaba" gibi kavramların içi uygulama ve yargı kararlarıyla dolacak. Vali herhangi birini veto edebilir. Bu yazı, 25 Eylül'deki resmi durum kaydına dayanıyor.

AB 2575 ile ilgili önemli bir ayrıntı gözden kaçabilir. Hüküm, doğrudan hasta bakan lisanslı sağlık çalışanlarına karşı açılan malpraktis davalarında uygulanmıyor. Yani hedef hekim değil, sistemi geliştiren ya da kuruma yerleştiren taraf. Tasarı ayrıca işverenin, sistem çıktısını geçersiz kılan ya da ona dayanan çalışana misilleme yapmasını yasaklıyor.

Tasarılar yasalaşırsa hekimin klinik karar desteği karşısındaki konumu güçlenecek. İşveren, çalışanı yalnızca sistem çıktısını geçersiz kıldığı için cezalandıramayacak; "sisteme uy" kuralı bu korumayı kaldırmayacak. Ancak hekimin bakım standardını karşılama yükümlülüğü aynen sürüyor.

• Kullandığınız karar destek aracının hangi hasta gruplarında test edildiğini sorun.
• Sistem çıktısını geçersiz kıldığınız vakalarda gerekçeyi dosyaya yazın.
• Kurumunuzdan, yapay zekânın hangi işlevleri bağımsız yaptığını gösteren bir liste isteyin.
• İş sözleşmenizde ya da kurum yönergesinde "sistem önerisine uy" türünden bir zorunluluk olup olmadığını kontrol edin.
• Hastalarınızın kullandığı sağlık sohbet botlarının veri politikasını sorgulamalarını önerin.

Kaliforniya kuralları Türkiye'de uygulanmıyor. Ancak tartıştıkları iki soru burada da geçerli: yazılımın yanlılığını kim denetler, hekim öneriyi reddederse ne olur? Kişisel Verilerin Korunması Kanunu (KVKK), yalnızca otomatik analizle doğan aleyhe sonuca itiraz hakkı tanıyor. Bu hak veri sahibi hastayı korur; hekimin işvereni karşısındaki konumunu düzenlemez.

Hekimin sistem önerisini reddettiği ya da izlediği durumlarda sorumluluğu özel olarak düzenleyen bir Türk mevzuat hükmü bulamadık. Kaliforniya'daki tartışma, yerel hastane sözleşmelerine hangi maddelerin girmesi gerektiğine iyi bir örnek sunuyor.