KI-Haftung beim Arzt: Wer haftet, wenn die KI sich irrt?

Auch beim Einsatz von KI bleibt die fachliche und rechtliche Verantwortung für Diagnose, Therapie und Dokumentation bei der behandelnden Ärztin / dem Arzt. KI ist Werkzeug, nicht Entscheider.

Die Unterschrift unter einem KI-generierten Arztbrief ist eine eigene ärztliche Erklärung – mit allen rechtlichen Folgen.

Der KI-Hersteller haftet nach Produkthaftungsgesetz und MDR (für Medizinprodukte) für Konstruktions- und Instruktionsfehler. Wenn ein als Medizinprodukt zertifiziertes KI-System nachweislich fehlerhaft arbeitet, kann sich der Arzt im Innenverhältnis daran wenden.

Wichtig: Reine „Schreibassistenten“ ohne Diagnoseanspruch sind in der Regel keine Medizinprodukte – die Verantwortung liegt klar beim Anwender.

• Auswahl: Tool muss DSGVO- und § 203-konform sein. Public ChatGPT scheidet aus, siehe /ratgeber/chatgpt-fuer-arztbriefe-erlaubt.

• Prüfung: Jeder KI-Output muss vor Freigabe geprüft werden.

• Dokumentation: Im Zweifel dokumentieren, dass und wie KI eingesetzt wurde.

• Schulung: Anwender:innen brauchen Verständnis für Stärken und Grenzen.

Der EU AI Act stuft viele medizinische KI-Systeme als „Hochrisiko-KI“ ein. Das verschärft die Anforderungen an Hersteller (Risk-Management, Logging, Transparenz) – ändert aber nichts an der ärztlichen Letztverantwortung.

Empfehlenswert sind KI-Tools, die transparent sind, AVV bieten, in der EU hosten und die Verantwortung klar regeln. KI-Outputs sollten im Workflow ein Vorschlag bleiben, nicht die finale Wahrheit.