DoktorClub Görüşü
LLM, temel model, RAG, halüsinasyon, dış doğrulama, model kayması ve kilitli algoritma: 13 yapay zekâ terimi, resmi tanımlar ve klinik örneklerle.
Bu rehber yardımcı oldu mu?
DoktorClub’da Keşfet
Yapay Zeka Haber
Hekimler için yapay zekâ sözlüğü: 13 terim, klinik örneklerle
Kapak görseli yapay zekâ ile üretilmiş temsili bir editoryal görseldir; gerçek hasta veya tanısal görüntü değildir. 30 Saniyede Özet Bir yapay zekâ ürününün broşürünü okurken terimler çoğu zaman anlamdan önce gelir. Bu…
Kapak görseli yapay zekâ ile üretilmiş temsili bir editoryal görseldir; gerçek hasta veya tanısal görüntü değildir.
30 Saniyede Özet
Bir yapay zekâ ürününün broşürünü okurken terimler çoğu zaman anlamdan önce gelir. Bu sözlük, hekimin sık karşılaştığı 13 kavramı mümkün olduğunca resmi tanımlara dayanarak sade bir dille açıklıyor. Her terimin yanında klinik bir örnek var. Amaç, bir satıcıya ya da makaleye doğru soruyu sorabilmeniz.
Model nasıl kurulur ve nasıl çalışır?
Yapay zekâ
ABD Gıda ve İlaç Dairesi (FDA) dijital sağlık ve yapay zekâ terimleri için bir eğitim sözlüğü yayımladı. Sözlüğe göre yapay zekâ, insanın belirlediği hedeflere göre tahmin, öneri ya da karar üreten makine tabanlı sistemdir. Örnek: EKG'de atriyal fibrilasyon şüphesini işaretleyen bir yazılım.
Makine öğrenmesi
FDA'ya göre makine öğrenmesi, bir algoritmanın bir görevdeki performansını veriyle geliştiren teknikler bütünüdür. Kurallar elle yazılmaz; model örneklerden örüntü çıkarır. Örnek: geçmiş yatış kayıtlarından yeniden yatış riskini tahmin eden bir model.
Derin öğrenme
Derin öğrenme, çok sayıda ara (gizli) katmanı olan yapay sinir ağlarını kullanan bir makine öğrenmesi dalıdır. Katmanlar veriden giderek daha soyut özellikler çıkarır. Örnek: retina fotoğrafında diyabetik retinopatiyi derecelendiren görüntü modelleri.
Büyük dil modeli (LLM)
Büyük dil modeli, çok geniş metin verisiyle eğitilen ve doğal dilde yanıt üreten modeldir. Çeviri, özetleme ve soru yanıtlama gibi işler yapabilir. Örnek: epikriz taslağı yazan ya da hasta bilgilendirme metnini sadeleştiren sohbet aracı. Model yanıtı bir veritabanından okumaz; olası sözcük dizilerini tahmin ederek üretir.
Temel model (foundation model)
FDA'ya göre temel model, geniş ve çoğunlukla etiketsiz veriyle eğitilen, pek çok farklı işe uyarlanabilen modeldir. Dünya Sağlık Örgütü (DSÖ), büyük çok modlu modelleri de genel amaçlı temel modeller olarak ele alıyor. Çok modlu model, metin ve görüntü gibi farklı veri türlerini birlikte işleyebilir. Örnek: hem akciğer grafisini hem rapor metnini okuyabilen bir model.
İnce ayar (fine-tuning)
İnce ayar, önceden eğitilmiş bir modelin belirli bir iş için ek veriyle yeniden eğitilmesidir. FDA sözlüğü temel modellerin bu yolla belirli kullanımlara uyarlanabileceğini belirtiyor. Örnek: genel bir dil modelinin radyoloji raporlarıyla ek eğitimden geçirilmesi. İnce ayar modeli değiştirdiği için yeni sürüm ayrıca test edilmeli.
İstem (prompt)
İstem, modele verdiğiniz talimat ya da sorudur. Aynı model, farklı istemlerle belirgin biçimde farklı yanıtlar verebilir. Örnek: "İlaçları listele" yerine "Yalnızca metinde geçen ilaçları dozlarıyla listele, emin olmadıklarını belirt" demek. İsteme hastayı tanımlayan bilgi yazmayın.
RAG (erişimle güçlendirilmiş üretim)
RAG, modelin yanıt yazmadan önce bir belge havuzundan ilgili metinleri çekip onlara dayanmasıdır. Terim, Lewis ve arkadaşlarının 2020'de NeurIPS'te sunduğu çalışmadan gelir. Örnek: hastane antibiyotik protokolünü tarayıp kaynak göstererek yanıt veren asistan. RAG hatayı azaltabilir ama sıfırlamaz; çekilen belge eski ya da ilgisiz olabilir.
Halüsinasyon
Halüsinasyon, modelin kendinden emin biçimde yanlış ya da uydurma içerik üretmesidir. ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bu olguya konfabulasyon diyor. NIST, halüsinasyonun bunun için yaygın kullanılan gündelik ad olduğunu da not ediyor. Örnek: var olmayan bir makaleyi inandırıcı bir künyeyle kaynak göstermek.
Model nasıl değerlendirilir ve güncellenir?
Eğitim, ayarlama ve test seti
FDA'ya göre eğitim verisi, üreticinin modeli kurmak için kullandığı veridir. Ayarlama (tuning) verisi farklı model seçeneklerini karşılaştırmaya yarar; Türkçede sık sık doğrulama seti denir. Test verisi ise geliştirmede modele hiç gösterilmeyen ve son performansı ölçen veridir. Örnek: test seti eğitimle aynı hastaneden geliyorsa sonuç iyimser olabilir.
Dış doğrulama
Dış doğrulama, modelin geliştirildiği veriden farklı bir ortamda, hasta grubunda ya da dönemde test edilmesidir. TRIPOD+AI raporlama kılavuzu, aynı popülasyondaki testi iç doğrulama olarak ayırır. Kılavuz, eğitim ve değerlendirme verisi arasında hasta çakışması olmamasını da vurgular. Örnek: bir şehirde geliştirilen sepsis modelinin başka bölgedeki bir hastanede test edilmesi.
Model kayması (drift)
FDA sözlüğü veri kaymasını, kullanımdaki modele gelen girdi verisinin dağılımının zamanla değişmesi olarak tanımlar. Bu değişim performansı düşürebilir. Örnek: laboratuvar yöntemi değişince bir risk skorunun kalibrasyonunun (tahmin edilen riskin gerçekleşen riske uyması) bozulması. Kurulumdan sonra düzenli izleme bu yüzden gerekir.
Kilitli ve uyarlanabilir algoritma, PCCP
FDA'ya göre kilitli algoritma, aynı girdiye her seferinde aynı çıktıyı verir ve parametreleri kullanımda değişmez. Sürekli öğrenen (uyarlanabilir) model ise yeni veriyle zaman içinde performansını değiştirebilir. FDA, önceden belirlenmiş değişiklik kontrol planı (PCCP) kılavuzunu Aralık 2024'te nihai hâle getirdi. FDA sayfasındaki güncel sürüm Ağustos 2025 tarihli.
PCCP; planlanan değişikliklerin tanımını, geliştirme ve doğrulama yöntemini ve etki değerlendirmesini içerir. Plan kabul edilirse üretici, tanımlı değişiklikleri her biri için ayrı başvuru yapmadan uygulayabilir. Varsayımsal örnek: bir yazılımın yeni tarayıcı modellerine uyarlanması plana önceden yazılabilir.
Bir senaryo: Broşür cümlesini terimlerle okumak
Şöyle bir durum düşünün. Bir firma size "temel model üzerine ince ayar yapılmış, RAG destekli, kilitli" bir klinik asistan sunuyor. Sözlükle bu cümleyi açabilirsiniz. Genel bir model alanınıza uyarlanmış, yanıtlar bir belge havuzuna dayanıyor ve kullanımda kendi kendine değişmiyor.
Ardından eksik bilgiyi görürsünüz. Dış doğrulama nerede yapıldı? Belge havuzu ne zaman güncellendi? Kayma nasıl izleniyor?
Sözlüğü kullanma kontrol listesi
- Modelin hangi veriyle eğitildiğini ve test setinin nereden geldiğini sorun.
- Dış doğrulama olup olmadığını, varsa hangi ülkede ve hangi hasta grubunda yapıldığını öğrenin.
- Algoritmanın kilitli mi uyarlanabilir mi olduğunu ve güncellemelerin nasıl duyurulduğunu sorun.
- RAG kullanan araçta belge havuzunun son güncelleme tarihini isteyin.
- Kurulumdan sonra performansı kimin, ne sıklıkla izleyeceğini yazılı hâle getirin.
Türkiye'deki hekim için ne anlama geliyor?
6698 sayılı Kişisel Verilerin Korunması Kanunu (KVKK), sağlık verisini özel nitelikli kişisel veri sayıyor. Bu yüzden sözlükteki en pratik uyarı istemle ilgili: Genel amaçlı araçlara hastayı tanımlayan bilgi yazmayın. Kurumunuzun onaylı bir aracı ve veri politikası varsa onu izleyin.
Sık sorulan sorular
Doğrulama seti ile dış doğrulama aynı şey mi?
Hayır. Doğrulama (ayarlama) seti, model geliştirilirken seçenekleri karşılaştırmak için kullanılır. Dış doğrulama ise bitmiş modelin başka bir ortamda test edilmesidir.
RAG kullanan bir araç halüsinasyon yapmaz mı?
Yapabilir. Yanlış belge çekilebilir ya da model belgede olmayan bir bilgiyi ekleyebilir. Kaynak gösterilen pasajı her zaman kendiniz okuyun.
Kilitli algoritma hiç güncellenmez mi?
Güncellenebilir, ama değişiklik üreticinin kontrollü sürecinden geçer. ABD'de onaylanmış bir PCCP, önceden tanımlanmış değişikliklerin ek başvuru olmadan yapılmasına izin verir. Kilitli modelde de veri kayması olabileceği için yerel izleme yine gereklidir.
Kaynaklar
- ABD Gıda ve İlaç Dairesi (FDA) (2024) — FDA Digital Health and Artificial Intelligence Glossary – Educational Resource: https://www.fda.gov/science-research/artificial-intelligence-and-medical-products/fda-digital-health-and-artificial-intelligence-glossary-educational-resource
- ABD Gıda ve İlaç Dairesi (FDA) (2024; güncel sürüm 2025) — Marketing Submission Recommendations for a Predetermined Change Control Plan for Artificial Intelligence-Enabled Device Software Functions: https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial-intelligence
- Dünya Sağlık Örgütü (2024; güncel sürüm 2025) — Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models: https://www.who.int/publications/i/item/9789240084759
- NIST (2024) — Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1): https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- Collins GS ve ark. (2024) — TRIPOD+AI statement: updated guidance for reporting clinical prediction models that use regression or machine learning methods (BMJ): https://doi.org/10.1136/bmj-2023-078378
- Lewis P ve ark. (2020) — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (NeurIPS): https://proceedings.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html
- Resmî Gazete (2016) — 6698 sayılı Kişisel Verilerin Korunması Kanunu: https://www.mevzuat.gov.tr/mevzuatmetin/1.5.6698.pdf
Bu içerik bilgilendirme amaçlıdır ve bireysel tıbbi tavsiye yerine geçmez.
İlgili Yazılar
Bu konuyla ilgili Doktorclub'da ele aldığımız diğer hekim onaylı rehberler: