Almanya'da halka açık bir Parkinson bilgi botunun ilk 129 günü ileriye dönük olarak incelendi. Otomatik değerlendirme 2.035 konuşmanın %88,6'sını "iyi" saydı. Nörologların incelemesi ise, açık intihar…
Haberi paylaş
İlgilenecek birine ulaştırın.
Almanya'daki jAImes botunun 2.035 konuşması incelendi: otomatik puanlar %88,6 iyi, ama uzman incelemesi kaçan intihar düşüncesi yanıtını buldu.
Almanya'da halka açık bir Parkinson bilgi botunun ilk 129 günü ileriye dönük olarak incelendi. Otomatik değerlendirme 2.035 konuşmanın %88,6'sını "iyi" saydı. Nörologların incelemesi ise, açık intihar düşüncesine acil yanıt verilmeyen bir konuşma dahil, kritik hatalar buldu. Mesaj net: Hastaya dönük yapay zekâ, yayına girdikten sonra da klinik gözle denetlenmeli.
Würzburg Üniversite Hastanesi Nöroloji Kliniği'nden ekip, sonuçları 12 Eylül 2026'da The Lancet Regional Health – Europe'ta yayımladı. İncelenen sistem jAImes; Parkinson hastaları, yakınları ve sağlık çalışanları için Almanya'da ücretsiz sunulan bir bilgi botu. Botu Alman Parkinson Vakfı (Parkinson Stiftung Deutschland) finanse ediyor ve işletiyor. Teknik geliştirmeyi smardis.tech adlı şirket yaptı.
jAImes, getirimle zenginleştirilmiş üretim (RAG) kullanıyor. Bu yöntemde model yanıtını, seçilmiş 221 belgelik bir bilgi tabanından çektiği metinlere dayandırıyor. Değerlendirme döneminde yanıtları büyük dil modelleri (Claude Sonnet 4.5 ve Mistral Small 3.2) üretti. Bot, tanı, doz önerisi, tedavi değişikliği ve acil bakım için tasarlanmadı.
Araştırmacılar 11 Kasım 2025–20 Mart 2026 arasındaki tüm kayıtları inceledi. Bu dönemde 2.035 konuşma ve 6.146 mesaj vardı. Bağımsız bir yapay zekâ modeli her konuşmayı dönem bittikten sonra geriye dönük puanladı. Sonuç: %88,6 iyi, %11,0 kısmen yeterli, %0,4 yetersiz.
İşaretlenen ya da olumsuz geri bildirim alan konuşmalardan 45'i hareket bozukluğu deneyimli iki nöroloğa gitti. Bunlardan beşi kritik olay olarak doğrulandı. Birinde bot, süren bir klinik araştırma ve sorumlu araştırmacısının kurumu hakkında yanlış bilgi verdi. Birinde güvenlik filtresi, sistemi kandırma girişimine (jailbreak) benzeyen bir örüntüde konuşmayı kesti.
Kalan üç konuşmada kullanıcı açıkça intihar düşüncesi dile getirdi. İkisinde bot acil iletişim bilgisi verdi, ancak uzmanlar yanıtı protokole yeterince uygun bulmadı. Üçüncüsünde Parkinson tanısından kısa süre sonra yazılan mesaj, planlanan acil yanıtı hiç tetiklemedi. Kullanıcıya kriz hattı ya da destek kaynağı sunulmadı.
Ekip ayrıca "iyi" sayılan konuşmalardan rastgele 100'ünü yeniden inceledi. Dördünde otomatik puanlamanın kaçırdığı kritik hata vardı (%4; %95 GA 1,6–9,8). Bunlardan biri, Parkinson hastalığı demansında uygunsuz memantin önerisiydi. Diğerleri uzatılmış salımlı levodopanın etki süresine dair yanlış bilgi, tremor için ilk seçenek olmayan amantadin önerisi ve levodopa/karbidopa preparatının selejilin diye adlandırılmasıydı.
Güçlü yanı, seçilmiş örnekler yerine gerçek kullanıcıların tüm konuşmalarının otomatik taramadan geçirilmesi. Kritik olay kararlarını geliştiriciyle ve vakıfla bağı olmayan iki nörolog verdi. Yine de %4, genel bir hata oranı değil; yalnızca "iyi" grubundaki gözden kaçma oranının kaba tahmini. Güven aralığı geniş ve tek bir zaman dilimine ait.
Çıkar ilişkisi açıkça beyan edildi. Yazarlardan biri geliştirici şirketin kurucusu, biri de botu işleten vakfın başkanı. Yazarlar, yaklaşık altı aylık gayriresmî hekim testine karşın botun resmî ön doğrulama olmadan yayına girdiğini kabul ediyor. Dönem boyunca konuşmalar gerçek zamanlı izlenmedi; müdahale kapasitesi de yoktu.
Kaçan acil yanıt sonrası kriz protokolü 21–22 Mart 2026'da güncellendi. Aynı konuşma yeniden denendiğinde protokol artık tetikleniyor; yazarlar bunun yalnız bu hatanın giderildiğini gösterdiğini belirtiyor. Makale, dış hukuk görüşüne göre botun AB Tıbbi Cihaz Tüzüğü kapsamında tıbbi cihaz sayılmadığını da aktarıyor. Yazarların önerdiği CARE-LLM adlı gözetim çerçevesi ilk kez burada uygulandı; başka sistemlerde henüz sınanmadı.
Otomatik kalite puanları güven verici görünebilir, ama kritik hataları gösterme gücü sınırlı. Bu çalışmada ilaç hataları, kaynakların yetmediği sorularda modelin boşluğu kendinden emin bir yanıtla doldurmasından doğdu. Kriz yanıtı ise sistem komutunda yazılı olmasına rağmen sahada bir kez hiç çalışmadı.
jAImes'in Türkiye'de kullanıldığına dair bir bilgi yok. Makaleye göre bot, dış hukuk görüşüyle AB mevzuatında tıbbi cihaz sayılmadı. Türkiye'nin tıbbi cihaz yönetmeliği de AB ile uyumlu.
Bu yüzden benzer bir "yalnız bilgi" botu Türkiye'de de Türkiye İlaç ve Tıbbi Cihaz Kurumu (TİTCK) denetimi dışında kalabilir. O zaman sahadaki gözetim, botu işleten dernek, vakıf ya da hastanenin sorumluluğuna kalır.
Türkçe hizmet verecek bir botta kriz yönlendirmesi 112'ye yapılmalı ve intihar düşüncesinin farklı Türkçe anlatımlarıyla düzenli olarak test edilmeli. Konuşma kayıtları, Kişisel Verilerin Korunması Kanunu'nun (KVKK) özel nitelikli saydığı sağlık verisini içerir. Bu çalışmadaki gibi geriye dönük bir inceleme planlanıyorsa kullanıcı bunu baştan bilmeli. İntihar düşüncesi yaşayan biri için acil destek gerektiğinde 112 aranmalıdır.
Bu oran, başka bir yapay zekâ modelinin otomatik puanlaması; hekim değerlendirmesi değil. Uzmanlar "iyi" sayılan 100 konuşmanın dördünde kritik hata buldu. Yani yüksek otomatik puan, kritik hataların yokluğu anlamına gelmiyor.
Kriz protokolü değerlendirmenin hemen ardından güncellendi. Aynı konuşma yeniden denendiğinde acil yanıt artık devreye giriyor. Yazarlar yine de bu hatanın canlı sistemde yaşandığını ve geri alınamayacağını vurguluyor.
Genel bilgi için yardımcı olabilirler, ama ilaç ve doz kararı için kaynak olmamalı. Hastaya botun söylediklerini size danışmasını söyleyin. Kriz anında botun değil 112'nin aranması gerektiğini de açıkça belirtin.
Bu içerik bilgilendirme amaçlıdır ve bireysel tıbbi tavsiye yerine geçmez.
Bu konuyla ilgili Doktorclub'da ele aldığımız diğer hekim onaylı rehberler: