KI für Ärztinnen und Ärzte – ein sicherer Einstieg

Mit einem klar begrenzten Problem beginnen

Die türkische Ausgangsseite empfiehlt, nicht mit der Frage „Welche KI soll ich kaufen?“ zu beginnen. Zuerst sollte eine wiederkehrende Aufgabe beschrieben werden: Literatur vorsortieren, einen Entwurf für eine Patienteninformation erstellen, eine Differentialdiagnose strukturieren oder einen Text in eine verständlichere Sprache übertragen.

Der Nutzen lässt sich nur beurteilen, wenn Ziel, zulässige Eingaben und menschliche Kontrolle vorab feststehen. Eine Zeitersparnis ist kein Qualitätsnachweis; die fachliche Richtigkeit muss getrennt gemessen werden.

• Aufgabe und Nutzergruppe schriftlich festlegen.
• Patientenidentifikatoren grundsätzlich aus freien Texteingaben entfernen.
• Erwartete Ausgabe und Abbruchkriterien definieren.
• Jede klinisch relevante Aussage an einer Primärquelle oder Leitlinie prüfen.
• Verantwortliche Person und Versionsstand dokumentieren.

Geeignete und ungeeignete Einsatzfelder

Als risikoärmere Einstiegsfelder nennt die Ausgangsseite organisatorische Entwürfe, Suchstrategien, Zusammenfassungen bereits freigegebener Literatur und sprachliche Überarbeitung. Auch dort können Auslassungen oder erfundene Quellen auftreten.

Diagnosen, Dosierungen, Interaktionsentscheidungen, Bildbefunde und individuelle Therapieempfehlungen sind keine Aufgaben, die ungeprüft an ein allgemeines Sprachmodell delegiert werden dürfen. Ein System darf ärztliche Verantwortung nicht verdecken oder die Entscheidung als automatisch getroffen darstellen.

Ein prüfbarer Arbeitsablauf

• 1. Nur die erforderliche, möglichst abstrahierte Frage eingeben.
• 2. Das System um Annahmen, Unsicherheiten und Quellen bitten.
• 3. Quellen unabhängig öffnen und auf Autor, Datum, Population und Endpunkt prüfen.
• 4. Ergebnis mit Patientenkontext, Kontraindikationen und lokaler Verfügbarkeit abgleichen.
• 5. Änderungen und ärztliche Freigabe nachvollziehbar dokumentieren.
• 6. Fehler oder unsichere Ergebnisse melden und nicht in Vorlagen übernehmen.

Dieser Ablauf macht ein KI-Ergebnis nicht automatisch richtig. Er sorgt lediglich dafür, dass Fehler eher erkennbar und Entscheidungen nachvollziehbarer werden.

Datenschutz und Kommunikation

Gesundheitsdaten sind besonders schutzbedürftig. Die Ausgangsseite warnt davor, Namen, Kontaktdaten, genaue Daten, Aktennummern, Bilder oder seltene Merkmalskombinationen in nicht freigegebene Dienste einzugeben. Pseudonymisierung ist nicht dasselbe wie Anonymisierung.

Patientinnen und Patienten sollten erkennen können, wenn KI an einem Text oder Prozess beteiligt war. Die ärztliche Person bleibt Ansprechstelle für Rückfragen; eine generierte Formulierung darf nicht als eigenständige ärztliche Untersuchung erscheinen.