ECRI bildirim ağını yapay zekâ hatalarına açtı

ECRI, kâr amacı gütmeyen küresel bir hasta güvenliği kuruluşu. Duyuruya göre Problem Reporting Network (sorun bildirim ağı) artık yapay zekâ araçları ve yapay zekâ destekli cihazlarla ilgili hataları ayrıca topluyor. Kapsamda hatalar, arızalar ve ramak kala olaylar (hastaya ulaşmadan yakalanan hatalar) var.

Ağ 1972'den beri çalışıyor. Bildirim ücretsiz ve gizli. Her bildirimi ECRI'nin klinik ve mühendislik uzmanları ön değerlendirmeden geçirip inceliyor. Sonuç bildirimi yapan kişiyle paylaşılıyor.

Bir güvenlik riski saptanırsa ECRI üreticiyi, sağlık kurumlarını ve düzenleyicileri bilgilendiriyor. Bunu, sorunu ve önerileri anlatan tehlike raporlarıyla yapıyor. Kuruluş, zorunlu bildirim kanallarının da ayrıca kullanılmasını istiyor.

Yeni kanal, ECRI ile Güvenli İlaç Uygulamaları Enstitüsü'nün (ISMP) ortak hasta güvenliği kuruluşunu tamamlıyor. Duyuruya göre bu yapı bugüne kadar 8 milyondan fazla güvenlik olayı bildirimi topladı. ECRI ayrıca görüntüleme, anestezi, kolonoskopi ve davranışsal terapi gibi alanlarda yapay zekâ destekli cihazları değerlendirdiğini belirtiyor.

Duyurunun zemini yeni değil. ECRI, 21 Ocak 2026'da açıkladığı yıllık sağlık teknolojisi tehlikeleri listesinde ilk sıraya sohbet botlarının yanlış kullanımını koymuştu. Kuruluş o raporda bu araçların tıbbi cihaz olarak düzenlenmediğini ve sağlık amacıyla doğrulanmadığını vurgulamıştı.

Ankete 124 kişi katıldı. Katılımcıların çoğu kalite, güvenlik, risk ya da uyum alanında çalışan yöneticiler. Son bir yılda hatalı ya da yanıltıcı olduğunu düşündükleri bir yapay zekâ çıktısıyla karşılaşanlar %31. Karşılaşmayanlar %34, emin olmayanlar ise %35.

Katılımcıların %9'u, bir yapay zekâ hatasının hastaya ulaştığını ya da bir bakım kararını etkilediğini bildirdi. Ankette en sık karşılaşılan araçlar ortam dinleyen yazıcılardı (%37). Bunları elektronik sağlık kaydına gömülü klinik karar destek sistemleri (%31) izledi. Klinik büyük dil modeli asistanları ya da sohbet botları da %31'de kaldı.

Bu bir bilimsel çalışma değil, bir basın bülteninde özetlenen kısa bir anket. Örnekleme yöntemi, yanıt oranı ve soru metinleri paylaşılmadı. Katılımcılar hekim değil, büyük ölçüde yönetici. Veriler öz bildirime dayanıyor ve "hata" tanımı katılımcının kendi yargısı.

Araç yüzdelerini yorumlarken de dikkat gerekiyor. Bültendeki ifade, hangi araçların en sık "karşılaşıldığını" söylüyor. Bu oranların hatalı çıktıyla mı yoksa genel kullanımla mı ilgili olduğu bültenden net anlaşılmıyor. Dolayısıyla "yazıcılar daha çok hata yapıyor" sonucu çıkarılamaz.

En dikkat çekici bulgu belki de %35'lik "emin değilim" oranı. Katılımcıların üçte biri hatalı bir çıktıyla karşılaşıp karşılaşmadığından emin değil. Bu, ECRI'nin işaret ettiği veri boşluğuyla da örtüşüyor: Ne ölçülmüyorsa, o görülmüyor.

Yapay zekâ hataları çoğu zaman sessizdir. Yanlış bir not satırı ya da hatalı bir öneri, fark edilmezse kayda ve karara geçer. Bildirim kültürü bu nedenle yapay zekâda da en az ilaç ve cihaz güvenliği kadar önemli.

Pratik bir kontrol listesi:

• Yazıcı notunu, özellikle ilaç adı, doz, taraf ve negatif bulgularda kontrol etmeden onaylamayın.

• Hatalı çıktıyı yalnız düzeltmekle kalmayın; kurumunuzun olay bildirim sistemine kaydedin.

• Hastaya ulaşmadan yakaladığınız hataları da ramak kala olarak bildirin.

• Bildirimde aracın adını, sürümünü, girdiyi ve çıktıyı mümkün olduğunca ekleyin.

• Genel amaçlı sohbet botlarının tıbbi cihaz gibi denetlenmediğini unutmayın.

Türkiye'de tıbbi cihazlarla ilgili bir yol zaten tanımlı. Türkiye İlaç ve Tıbbi Cihaz Kurumu (TİTCK) Tıbbi Cihaz Yönetmeliği'nin 85. maddesine göre şüpheli ciddi olumsuz olaylar sağlık profesyonelleri, kullanıcılar ve hastalar tarafından Kuruma raporlanıyor. Yönetmelik AB Tıbbi Cihaz Tüzüğü'ne uyumlu hazırlandı.

Ancak her yapay zekâ aracı tıbbi cihaz değil. Tıbbi cihaz olarak piyasaya sunulmayan genel amaçlı araçlarda bu yolun nasıl işleyeceği net değil. Bu nedenle kurum içi kayıt, ilk ve en ulaşılabilir adım olarak öne çıkıyor.