Verantwortung: Wer haftet, wenn die KI irrt?

Apothekenrecht trifft KI — die Rechtslage ist klarer, als sie scheint

Die Frage klingt komplex. Die Antwort ist es nicht: Die Apothekenleitung haftet. Immer. Das Modell haftet nicht, der Anbieter haftet nicht für fachliche Fehler, und „die KI hat es so gesagt" ist keine Rechtfertigung — nicht gegenüber der Apothekerkammer, nicht gegenüber Patientinnen und Patienten, nicht vor Gericht.

Das ist keine Einschränkung des KI-Einsatzes. Es ist die Rahmenbedingung, unter der er sicher und verantwortungsvoll funktioniert.

Die rechtliche Grundlage

Apothekengesetz und Berufsordnung

Die Apothekenbetriebsordnung (ApBetrO) und die Berufsordnungen der Landesapothekerkammern definieren die pharmazeutische Verantwortung klar: Die Apothekenleitung ist persönlich verantwortlich für die ordnungsgemäße Arzneimittelabgabe, die pharmazeutische Beratung und die Sicherheit der Patientinnen und Patienten.

Kein Gesetz, keine Verordnung, keine Berufsordnung kennt eine Ausnahme für KI-generierte Empfehlungen. Die Verantwortungsstruktur wurde für eine Welt ohne generative KI geschaffen — aber ihre Logik ist eindeutig: Wer eine Empfehlung ausspricht oder eine Entscheidung trifft, trägt die Verantwortung dafür. Das gilt unabhängig davon, welches Werkzeug bei der Vorbereitung dieser Entscheidung eingesetzt wurde.

Produkthaftung trifft KI-Anbieter — aber nicht für fachliche Fehler

KI-Anbieter können unter Umständen für technisches Versagen ihres Systems haften — wenn die Software einen Fehler enthält, der dem Nutzer nicht erkennbar war. Was sie nicht haften: für fachlich falsche Ausgaben, die der Nutzer ungeprüft übernommen hat. Die Terms of Service von OpenAI, Anthropic und Google schließen Haftung für Inhalte, die in professionellen oder medizinischen Kontexten verwendet werden, ausdrücklich aus.

Kurz: Der Anbieter liefert ein Werkzeug. Wer das Werkzeug einsetzt, trägt die Verantwortung für das Ergebnis.

EU AI Act — was ab 2025/2026 gilt

Der EU AI Act klassifiziert KI-Systeme nach Risikostufen. Systeme, die in der Gesundheitsversorgung eingesetzt werden und Entscheidungen unterstützen, fallen in die Kategorie hohes Risiko — mit entsprechenden Anforderungen an Transparenz, menschliche Aufsicht und Dokumentation. Für Apotheken relevant: Wer KI zur Beratungsunterstützung oder Interaktionsprüfung einsetzt, sollte die Entwicklungen im AI Act im Blick behalten. Die Anforderungen werden die bestehende Praxis formalisieren — nicht umkehren.

Haftung bleibt beim Apotheker — was das konkret bedeutet

„Die KI hat das empfohlen" entlastet nicht. Das ist keine theoretische Warnung, sondern eine praktische Konsequenz für jeden Arbeitsschritt, in dem KI-Output den Weg in die Patientenkommunikation findet.

Konkret bedeutet das:

Kein KI-Output geht ungefiltert an Patienten. Weder eine Zusammenfassung des Beipackzettels, noch eine übersetzte Einnahmeempfehlung, noch eine Antwort auf eine Beratungsfrage — ohne dass eine Fachperson den Inhalt gesehen und für korrekt befunden hat.

Die fachliche Prüfung muss substanziell sein. Wer einen KI-Text in drei Sekunden überfliegt und freigibt, hat nicht geprüft — er hat den Anschein der Prüfung erzeugt. Eine echte Prüfung bedeutet: Stimmt die Dosierungsangabe? Passt die Empfehlung zum konkreten Patientenkontext? Entspricht der Inhalt dem aktuellen Leitlinienstand?

Verantwortung ist nicht delegierbar. Auch wenn PTA oder Auszubildende KI-Tools im Alltag nutzen — die Apothekenleitung bleibt verantwortlich für die Qualität der Ausgaben, die unter ihrem Dach entstehen. Das erfordert klare interne Regeln darüber, wer was mit KI darf, und wer die fachliche Freigabe erteilt.

Das Vier-Augen-Prinzip in der Praxis

Das Vier-Augen-Prinzip ist kein bürokratischer Zusatzschritt — es ist die Schutzstruktur, die KI-Einsatz in der Apotheke überhaupt erst vertretbar macht.

Der Ablauf ist einfach:

KI-Output → fachliche Prüfung → Freigabe → Patientenkommunikation

In der Praxis heißt das:

Für Beipackzettel-Zusammenfassungen: PTA formuliert Prompt, KI liefert Zusammenfassung, Apotheker prüft Dosierungs- und Warnhinweise, gibt frei. Zeitaufwand für die Prüfung: unter einer Minute — aber sie muss stattfinden.

Für Interaktionsrecherche: KI liefert erste Einschätzung, Apotheker prüft gegen ABDA-Datenbank oder klinische Fachinformation, entscheidet eigenständig. KI ist hier Hilfsmittel zur Priorisierung, nicht zur Entscheidung.

Für Übersetzungen: KI-Übersetzung eines Einnahmehinweises, Prüfung durch einen Muttersprachler im Team oder durch Rückübersetzung, Freigabe. Besonders wichtig bei Dosierungen — ein falsches Wort kann gefährlich werden.

Für Marketing-Texte: Geringeres Risiko, aber auch hier: HWG-Konformität prüfen, keine impliziten Heilversprechen, Claim-Konsistenz sicherstellen.

Dokumentation — was festgehalten werden sollte

Die Frage der Dokumentation ist im KI-Kontext noch nicht abschließend gesetzlich geregelt. Was aber bereits jetzt aus Haftungssicht sinnvoll ist:

Was nicht in die Patientenakte gehört: Der Prompt selbst, der KI-Output im Rohzustand, Zwischenversionen. Das wäre unstrukturiert, rechtlich irrelevant und schüfe mehr Verwirrung als Klarheit.

Was festgehalten werden sollte: Die fachliche Begründung der Entscheidung — also was der Apotheker geprüft hat, welche Quellen herangezogen wurden, und was die finale Empfehlung war. Das ist ohnehin Best Practice in der Dokumentation und wird durch KI-Einsatz nicht verändert — nur wichtiger.

Intern empfehlenswert: Ein kurzes internes Protokoll darüber, welche KI-Tools zu welchem Zweck eingesetzt werden, wer sie nutzen darf, und wie das Vier-Augen-Prinzip umgesetzt ist. Das schützt im Streitfall — und hilft beim Onboarding neuer Mitarbeitender.

Die drei größten Risiken im Detail

1. Halluzinierte Dosierungen

Das gefährlichste Risiko im pharmazeutischen Kontext. Ein LLM, das eine Dosierung nicht sicher kennt, erfindet manchmal eine — mit der richtigen Einheit, der richtigen Struktur, dem richtigen Klang. Der Output wirkt überzeugend, ist aber falsch.

Das passiert häufiger bei seltenen Medikamenten, Off-Label-Anwendungen, pädiatrischen Dosierungen oder kürzlich geänderten Leitlinien. Gerade dort, wo das Fachwissen des Teams am meisten gefordert ist, ist KI am unzuverlässigsten.

Konsequenz: Jede Dosierungsangabe aus einem KI-Tool ist als ungeprüft zu behandeln — unabhängig davon, wie überzeugend sie formuliert ist.

2. Veraltete Leitlinien und Wissens-Stichtag

Jedes KI-Modell hat einen Trainings-Stichtag — einen Zeitpunkt, nach dem keine neuen Informationen ins Modell eingeflossen sind. Claude Sonnet hat einen Wissensstand bis Anfang 2025, GPT-4o bis Anfang 2024 (mit Web-Suche ergänzbar). Leitlinien, die nach diesem Datum überarbeitet wurden, sind dem Modell unbekannt.

In einem Fachgebiet, das sich schnell verändert — neue Medikamente, geänderte Therapiepfade, neue Interaktionsdaten — ist das ein strukturelles Risiko. KI kann aktuell klingendes Wissen produzieren, das faktisch überholt ist.

Konsequenz: Bei allem, was Leitlinien-Aktualität erfordert, immer primär gegen aktuelle Fachinformationen prüfen. KI ist kein Ersatz für aktuelle Fachliteratur.

3. Bias in Empfehlungen

KI-Modelle werden auf menschlichen Texten trainiert — und menschliche Texte enthalten Vorurteile. Studien zeigen, dass Sprachmodelle bei medizinischen Fragen unterschiedliche Empfehlungen für verschiedene demographische Gruppen geben können: andere Schmerzwahrnehmungs-Einschätzungen für Männer und Frauen, andere Risikoeinschätzungen für verschiedene Ethnien.

Das ist kein hypothetisches Problem. Es ist ein dokumentiertes Phänomen, das im pharmazeutischen Kontext besondere Relevanz hat — weil Beratungsempfehlungen nicht demographieabhängig variieren sollten.

Konsequenz: KI-Empfehlungen im Patientenkontext immer mit dem spezifischen Menschen vor dem Tresen abgleichen — nicht nur mit dem Modell-Output. Die individuelle Anamnese ersetzt keine Statistik, aber auch keine Statistik ersetzt die individuelle Anamnese.

Eine Orientierung für die Praxis

KI ist ein mächtiges Werkzeug — und wie jedes mächtige Werkzeug erfordert es Kompetenz in der Anwendung, nicht nur im Bedienen.

Die Apothekenleitung, die das versteht, gewinnt: Sie gewinnt Zeit durch Automatisierung, Qualität durch bessere Vorbereitung — und behält die Kontrolle, weil sie nie vergisst, dass das letzte Wort bei ihr liegt.

Das Modell sagt das Wahrscheinlichste. Der Apotheker sagt das Richtige.