Icahn Tıp Fakültesi ve İsrail’deki Rabin Tıp Merkezi’nin ortaklaşa yürüttüğü yeni bir araştırma, gelişmiş yapay zeka modellerinin, özellikle tıbbi etik senaryolar karşısında beklenmedik ve basit hatalar yapabileceğini ortaya koydu. NPJ Digital Medicine dergisinde yayımlanan çalışma, bu hataların, büyük dil modellerine (LLM) sağlık sistemlerinde ne zaman ve nasıl güvenileceği konusunu yeniden gündeme getirdi.
Araştırmacılar, Daniel Kahneman’ın “Hızlı ve Yavaş Düşünme” kitabından esinlenerek, yapay zekanın sezgisel ve analitik düşünme biçimleri arasında nasıl geçiş yaptığını test etti. Bilinen etik bulmacalara küçük değişiklikler uygulayarak, modellerin ne kadar dikkatli ve esnek tepki verebildiğini gözlemlediler. Örneğin, “Cerrahın İkilemi” adlı klasik bir senaryoda yapılan açık ifadeye rağmen bazı AI sistemlerinin hala önceki kalıplara bağlı cevaplar verdiği görüldü.
Benzer şekilde, dini nedenlerle kan transfüzyonuna karşı çıkan ebeveynlerle ilgili klasik bir etik senaryoda, araştırmacılar ebeveynlerin aslında rıza gösterdiğini belirtmesine rağmen, birçok AI modeli hala bu rızaya karşı hareket etmeyi önerdi. Bu, yapay zekanın değişmiş bilgileri yeterince değerlendirmediğini ve önceki ezberlere saplanabileceğini gösterdi.
Araştırmanın yazarları, bu sonuçların yapay zekanın tıpta tamamen dışlanması gerektiğini göstermediğini, ancak özellikle etik duyarlılık, duygusal zeka ve ayrıntılı yargı gerektiren konularda insan gözetiminin şart olduğunu vurguladı. Yapay zekanın, doktorların kararlarını destekleyici bir araç olarak kullanılması gerektiği, ancak hiçbir zaman insan uzmanlığının yerine geçmemesi gerektiği ifade edildi.
Araştırmacılar, çalışmayı daha fazla klinik örnekle genişletmeyi ve farklı AI modellerinin gerçek dünya karmaşıklıklarıyla nasıl başa çıktığını değerlendirecekleri bir “AI güven laboratuvarı” kurmayı planlıyor. Bu çalışma, sağlık hizmetlerinde yapay zekanın etik ve güvenilir şekilde entegrasyonu için önemli bir yol haritası sunuyor.
