30 Saniyede Özet
Bir sohbet botunun ruh sağlığı açısından riski tek bir yanıtta değil, konuşma uzadıkça birikebilir. Nature Medicine'de 7 Ağustos 2026'da yayımlanan SIM-VAIL çalışması, dokuz sohbet botunu kırılgan kullanıcıyı taklit eden yapay zekâ ajanlarıyla 810 konuşmada sınadı. Kaygı verici yanıtlar yaygındı, en sık psikoz ve mani profillerinde görüldü ve yeni sürümlerde daha azdı. Çalışma gerçek hastalarla değil, simülasyonla yapıldı.
Ne oldu?
Max Planck UCL Hesaplamalı Psikiyatri Merkezi, Oxford Üniversitesi ve Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü'nden araştırmacılar yeni bir denetim çerçevesi tanıttı. Adı SIM-VAIL. VAIL, "kırılganlığı büyüten etkileşim döngüsü" anlamına geliyor.
Kavram şunu anlatıyor. Tek başına destekleyici görünen bir yanıt, belirli bir kullanıcıda hastalığı sürdüren düşünceyi pekiştirebilir. Örneğin psikoza yatkın birinin olağandışı inancını onaylamak ya da bağlanma kaygısı olan birine sürekli güvence vermek bu tür bir döngü yaratabilir.
Ekip beş kırılganlık tanımladı. Bunlar depresyon, psikoz, mani, obsesif-kompulsif bozukluk (OKB) ve güvensiz bağlanmaydı. Her biri altı farklı konuşma niyetiyle eşleştirildi ve 30 simüle kullanıcı profili oluştu.
Niyetler arasında inancın onaylanmasını istemek, sohbet botuna duygusal bağımlılık kurmak ve belirtileri küçümsemek vardı. Riskli bir eylem için yardım istemek de listedeydi. Profiller, adım adım zarar talimatı istemeyecek şekilde kurgulandı.
Hedeflerin hepsi büyük dil modeli (LLM; metin üreten yapay zekâ modeli) tabanlı sohbet botlarıydı. Dokuz model arasında Claude, GPT, Gemini, Grok ve Llama ailelerinin farklı sürümleri bulunuyordu. Her profil her modelle üç kez konuştu. Toplamda 810 konuşma ve 6.329 tur elde edildi.
Kanıt ne kadar güçlü?
Tasarım tamamen simülasyona dayanıyor. Kullanıcıyı bir dil modeli canlandırdı, yanıtları ise başka bir dil modeli "güvenlik hakemi" olarak 13 klinik risk boyutunda puanladı. Bu nedenle bulgular gerçek hastalardaki olay sıklığını göstermiyor.
Yazarlar hakemi birkaç yolla doğruladı. İki farklı şirketin hakem modelleri arasındaki korelasyon 0,91'di. 27 hekim, 375 konuşma turuna toplam 488 puan verdi.
Hekim ile model hakem arasındaki uyum orta düzeydeydi (r=0,49). Bu değer, iki hekimin kendi aralarındaki uyumdan (r=0,41) biraz yüksekti. Hekimler simüle konuşmaları büyük ölçüde gerçekçi buldu.
Başlıca bulgular şöyle özetlenebilir. Kaygı verici davranış en çok psikoz ve mani profillerinde, en az OKB profilinde görüldü. Duygusal bağımlılık ve aşırı ruh hâllerini yüceltme niyetlerinde risk daha erken ve daha dik yükseldi.
Aynı ailede yeni sürümler genellikle daha güvenliydi, Grok modelleri bu kuralın dışında kaldı. Makalede en düşük risk claude-sonnet-4.5'te, en yüksek risk grok-4'te ölçüldü. Yazarlar, erken bir tırmanma noktasında tek bir mesajı yatıştırıcı biçimde yeniden yazmanın sonraki riski azalttığını da gösterdi.
Sınırlılıklar önemli. Modellere tüketici uygulamalarından değil, geliştirici arayüzünden (API) erişildi. Yani gerçek ürünlerdeki ek güvenlik katmanları devrede değildi.
Simüle kullanıcılar gerçek hastaların kültürel ve dilsel çeşitliliğini yansıtmıyor. Yazarlar sonuçları bir "asgari risk tabanı" olarak yorumlamayı öneriyor.
Çıkar çatışması da dikkat istiyor. Kıdemli yazar Matthew Nour, Copilot'u geliştiren Microsoft'un çalışanı ve hissedarı. İlk yazar Microsoft'a ücretli danışmanlık yapıyor ve hekim puanlama çalışması Microsoft'un ürün geliştirme faaliyetleri kapsamında yürütüldü.
Kullanıcı ve hakem rolünde çoğunlukla Anthropic modelleri kullanıldı. Yazarlar OpenAI hakemiyle yaptıkları kontrolde puanların güçlü biçimde örtüştüğünü bildiriyor. Ancak aynı modelin kendi çıktısına daha düşük risk puanı verdiğini de rapor ediyorlar.
Hekim için ne anlama geliyor?
Makalenin aktardığı Dünya Sağlık Örgütü (DSÖ) verisine göre dünyada 100.000 kişiye düşen ruh sağlığı çalışanı sayısının medyanı yalnızca 13. Yazarlar, bu boşlukta milyonlarca insanın genel amaçlı sohbet botlarına yöneldiğini vurguluyor. Hastalarınızın bir kısmı da duygusal sıkıntılarını bu araçlarla paylaşıyor olabilir. Bu çalışma, riskin çoğu zaman açık bir zarar önerisiyle değil, sürekli onaylama ve bağımlılıkla geldiğini hatırlatıyor.
Pratikte şunlar yararlı olabilir:
- Ruh sağlığı öyküsünde sohbet botu kullanımını, süresini ve konusunu nazikçe sorun.
- Psikoz ya da mani öyküsü olan hastada, botun inançlarını onaylayıp onaylamadığını konuşun.
- Çok uzun ve giderek yoğunlaşan konuşmaları uyarı işareti olarak değerlendirin.
- Sohbet botunun tedavinin yerini tutmadığını, en fazla bir destek aracı olduğunu anlatın.
- Kendine zarar verme düşüncesi ya da kriz belirtisi varsa hastayı aynı gün acil değerlendirmeye yönlendirin; gerekirse 112'yi arayın.
Türkiye'den bakınca
Çalışmadaki modeller Türkiye'de de erişilebilir genel amaçlı hizmetler. Ancak makalede Türkçe konuşmalara dair bir analiz yok. Aynı örüntünün Türkçe konuşmalarda görülüp görülmediği ayrıca sınanmalı.
Çalışmanın önerdiği denetim yöntemi dile bağımlı değil. Türkçe konuşan simüle kullanıcılarla benzer bir denetim, yerel araştırmacılar için uygulanabilir bir başlangıç olabilir. Kendine zarar verme riski ya da akut kriz söz konusuysa Türkiye'de 112 Acil Çağrı Merkezi aranmalı.
Sık sorulan sorular
Bu çalışma sohbet botlarının zarar verdiğini kanıtlıyor mu?
Hayır. Çalışma, simüle kullanıcılarla modellerin hangi koşullarda riskli yanıt verebildiğini haritalıyor. Gerçek kullanıcılarda ne sıklıkla zarar oluştuğunu ölçmüyor.
Hangi hastalar daha fazla risk altında olabilir?
Simülasyonda en yüksek risk psikoz ve mani profillerinde görüldü. Duygusal bağımlılık arayan ya da ağır ruh hâllerini yücelten konuşmalar da daha hızlı tırmandı.
Hastam sohbet botuyla konuşuyorsa ne yapmalıyım?
Yargılamadan konuşmanın içeriğini ve sıklığını sorun. Kriz belirtisi varsa sohbet botuna değil, 112'ye ve ruh sağlığı profesyoneline yönlendirin.
Kaynaklar
- Weilnhammer V, Hou KY, Luettgau L, Summerfield C, Dolan R, Nour MM (2026) — A clinically validated framework for auditing AI chatbot behavior in mental health interactions, Nature Medicine: https://doi.org/10.1038/s41591-026-04577-2
- PubMed (2026) — Makale kaydı ve çıkar çatışması beyanı, PMID 42567928: https://pubmed.ncbi.nlm.nih.gov/42567928/
- Dünya Sağlık Örgütü (2025) — Mental Health Atlas 2024: https://www.who.int/publications/i/item/9789240114487
- Nature Medicine (2026) — Makalenin açık erişimli yayın sayfası: https://www.nature.com/articles/s41591-026-04577-2
Bu içerik bilgilendirme amaçlıdır ve bireysel tıbbi tavsiye yerine geçmez.
İlgili Yazılar
Bu konuyla ilgili Doktorclub'da ele aldığımız diğer hekim onaylı rehberler:
Nature Medicine'deki SIM-VAIL çalışması 9 sohbet botunu 810 simüle konuşmada denetledi; risk turlar ilerledikçe arttı, psikoz ve manide en yüksekti.