KI im Praxismarketing: Halluzinationen, Fehlerquellen, Freigabe und Verantwortung

Der Produktivitätsgewinn ist real. Eine Leistungsbeschreibung, für die eine Praxis früher einen Nachmittag und mehrere Abstimmungen gebraucht hat, entsteht heute in zwei Minuten, in ordentlichem Deutsch, mit sinnvoller Gliederung und passendem Ton. Dass Praxen und Agenturen diesen Weg gehen, ist keine Modeerscheinung, sondern eine rationale Reaktion auf Kostendruck.

Das Problem liegt nicht in der Qualität der Sprache, sondern in ihrer Verlässlichkeit. Ein Sprachmodell erzeugt den wahrscheinlichsten Text, nicht den zutreffenden. In den meisten Anwendungsbereichen fallen die verbleibenden Fehler auf oder bleiben folgenlos. Im Heilmittelwerberecht ist beides nicht der Fall: Die typischen Fehler sind sprachlich unauffällig, inhaltlich attraktiv — und rechtlich genau die Kategorie von Aussagen, die das Gesetz untersagt.

Dieser Beitrag erklärt zuerst, warum das so ist und nicht durch bessere Modelle verschwindet. Er benennt dann die vier Fehlerklassen, die in medizinischen Marketingtexten tatsächlich auftreten. Und er zeigt, warum der Freigabeprozess seit dem 2. August 2026 nicht mehr nur eine Frage der Sorgfalt ist, sondern die Voraussetzung eines gesetzlichen Ausnahmetatbestands.

01 Warum ein Sprachmodell halluziniert

Ein großes Sprachmodell ist kein Wissensspeicher, aus dem Fakten abgerufen werden. Es ist ein statistisches Modell über Zeichenfolgen, das aus einem Kontext die wahrscheinlichste Fortsetzung berechnet. Was als Antwort erscheint, ist das Ergebnis einer Wahrscheinlichkeitsrechnung über Sprache — nicht das Ergebnis einer Prüfung an der Wirklichkeit.

Daraus folgt eine Eigenschaft, die häufig als Defekt beschrieben wird, tatsächlich aber der Funktionsweise entspricht: Das Modell hat keinen Mechanismus, mit dem es „nichts" antworten könnte, wenn ihm Information fehlt. Es füllt die Lücke mit dem, was an dieser Stelle plausibel wäre. Eine Studie, die es nicht gibt, hat dieselbe sprachliche Gestalt wie eine, die es gibt. Eine Zahl, die nirgends steht, sieht aus wie eine Zahl, die irgendwo steht.

Der zweite Punkt ist ebenso wichtig: Halluzination ist nicht dasselbe wie veraltetes Wissen. Ein Modell kann eine Rechtslage korrekt wiedergeben, die vor zwei Jahren galt — das ist kein Fehler der Generierung, sondern ein Stand der Trainingsdaten. Beides erzeugt falsche Texte, aber nur das erste ist durch besseres Training nicht behebbar. Verfahren wie das Anreichern mit Quellen im Kontext oder das Erzwingen von Belegen verringern die Fehlerrate erheblich; sie beseitigen den zugrunde liegenden Mechanismus nicht.

Für die Praxis folgt daraus die entscheidende Konsequenz: Die Fehlerwahrscheinlichkeit lässt sich senken, aber nicht auf null bringen. Jede Verwendung generierter Texte muss deshalb organisatorisch damit rechnen, dass Fehler vorkommen — nicht als Ausnahme, sondern als Regelfall in kleiner Häufigkeit.

02 Warum medizinische Werbetexte besonders betroffen sind

Ein Sprachmodell optimiert auf Überzeugungskraft, weil überzeugende Werbetexte in seinen Trainingsdaten überrepräsentiert sind. Bittet man es um eine Leistungsbeschreibung, greift es auf das Register zu, das in Werbetexten üblich ist — und dieses Register besteht in weiten Teilen aus genau den Aussagetypen, die das Heilmittelwerberecht untersagt.

Der Effekt lässt sich an einer Umformulierung zeigen. Aus einer korrekten Ausgangsaussage:

Die Behandlung kann Beschwerden reduzieren.

wird beim Auftrag „mach das überzeugender":

Unsere innovative Methode beseitigt Beschwerden zuverlässig und dauerhaft.

Sprachlich ist das eine Verbesserung. Rechtlich sind vier Grenzen überschritten. „Innovativ" behauptet eine Neuheit, die belegbar sein muss. „Beseitigt" ersetzt eine Möglichkeits- durch eine Wirkungsaussage. „Zuverlässig" und „dauerhaft" behaupten eine Erfolgssicherheit, die medizinisch praktisch nie besteht — und § 3 HWG untersagt gerade den Eindruck, ein Erfolg könne mit Sicherheit erwartet werden. Der Superlativgehalt der Formulierung berührt zudem das berufsrechtliche Verbot anpreisender Werbung.

Kein einzelner Schritt dieser Verschiebung ist auffällig. Das Modell hat nichts erfunden; es hat einen Text überzeugender gemacht, wie es beauftragt war. Genau darin liegt die Gefahr: Die Verschlechterung der Rechtslage geschieht durch Stilverbesserung.

03 Vier Fehlerklassen, die tatsächlich auftreten

Erfundene Belege. Studien, Zeitschriften, Autorennamen, Jahreszahlen, gelegentlich vollständige Zitationen — sprachlich einwandfrei, inhaltlich nicht existent. Diese Klasse ist die bekannteste und zugleich die am leichtesten zu prüfende, weil ein Beleg entweder auffindbar ist oder nicht.

Übertragene Aussagen. Der praktisch häufigste und schwerste Fall: Eine reale Studie wird korrekt benannt, aber ihre Aussage auf eine breitere Indikation, eine andere Patientengruppe oder eine stärkere Wirkung ausgedehnt, als die Untersuchung hergibt. Der Beleg existiert, die Behauptung ist trotzdem falsch. Diese Klasse überlebt eine oberflächliche Prüfung, weil die Quelle sich finden lässt.

Erfolgs- und Sicherheitsaussagen. Die im vorigen Kapitel gezeigte Verschiebung. Sie entsteht nicht aus fehlendem Wissen, sondern aus dem Stilauftrag, und sie ist deshalb selbst dann zu erwarten, wenn das Modell fachlich korrekt arbeitet.

Qualifikations- und Strukturangaben. Ein Modell, das eine Praxisseite formuliert, ergänzt bereitwillig, was an dieser Stelle üblich wäre: eine Facharztbezeichnung, eine Zusatzqualifikation, ein „Zentrum", eine Zahl behandelter Fälle. Diese Klasse ist besonders heikel, weil sie berufsrechtlich unmittelbar irreführend ist und weil sie in der Prüfung leicht übersehen wird — sie klingt nicht nach einer Behauptung, sondern nach einer Selbstverständlichkeit.

04 Der Freigabeprozess als gesetzlicher Ausnahmetatbestand

An dieser Stelle verändert der AI Act die Lage, allerdings anders, als die verbreitete Diskussion nahelegt.

Seit dem 2. August 2026 sind die Transparenzpflichten des Art. 50 der KI-Verordnung anwendbar. Für Text enthält Art. 50 Abs. 4 eine Kennzeichnungspflicht für Betreiber: KI-generierter oder manipulierter Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ist zu kennzeichnen. Die Kommission nennt in ihren Leitlinien als solche Angelegenheiten unter anderem ausdrücklich die öffentliche Gesundheit.

Entscheidend ist die daran anschließende Ausnahme. Veröffentlichter Text, der einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde, muss nicht gekennzeichnet werden. Das ist keine Formalie, sondern eine substanzielle Anforderung, und die Leitlinien definieren sie präzise: Menschliche Überprüfung meint die bewusste inhaltliche Prüfung durch eine oder mehrere natürliche Personen, die über einschlägiges Wissen und fachliches Urteilsvermögen zum geprüften Gegenstand verfügen. Redaktionelle Kontrolle meint die tatsächlich ausgeübte Kontrolle einer verantwortlichen redaktionellen Instanz mit der Befugnis, den Inhalt inhaltlich zu billigen, zu ändern oder zurückzuweisen. Redaktionelle Verantwortung setzt voraus, dass eine Person die letztendliche rechtliche Verantwortung für die Veröffentlichung trägt.

Ausdrücklich nicht ausreichend sind oberflächliche, rein formale oder verfahrensmäßige Kontrollen — Rechtschreib- oder Grammatikprüfung genügen der Anforderung nicht.

Damit kehrt sich die übliche Betrachtung um. Der Freigabeprozess ist nicht die lästige Zusatzschleife, die man sich nach der Kennzeichnung noch leisten sollte. Er ist der Tatbestand, dessen Erfüllung die Kennzeichnungspflicht entfallen lässt — und er verlangt genau das, was ein sorgfältiges Praxismarketing ohnehin bräuchte: eine fachlich qualifizierte inhaltliche Prüfung mit klarer Verantwortungszuweisung.

Auslegungsfrage. Ob Praxiskommunikation überhaupt in den Anwendungsbereich fällt, ist nicht abschließend geklärt. Der Tatbestand verlangt Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Eine Leistungsseite verfolgt primär einen kommerziellen Zweck, kein Informationsanliegen gegenüber der Öffentlichkeit — dies spricht gegen eine Anwendung. Ein Ratgeberbeitrag über ein Krankheitsbild auf derselben Website liegt näher an der Informationsfunktion, und öffentliche Gesundheit ist als Angelegenheit öffentlichen Interesses ausdrücklich benannt. Eine belastbare Klärung steht aus. Wer den Freigabeprozess sauber führt, muss die Frage allerdings nicht entscheiden — die Ausnahme greift unabhängig davon.

05 Was eine belastbare Prüfung umfasst

Aus den Fehlerklassen und den Anforderungen an die menschliche Überprüfung ergibt sich ein Prüfumfang, der sich benennen lässt.

Zu prüfen sind: medizinische Wirkaussagen auf ihre Deckung; herangezogene Studien auf Existenz und auf die Reichweite ihrer Aussage; Facharzt-, Schwerpunkt- und Zusatzbezeichnungen gegen die tatsächlich vorliegenden Nachweise; Struktur- und Größenangaben gegen die Realität der Praxis; Erfolgs- und Sicherheitsformulierungen auf unzulässige Gewissheitsbehauptungen; Superlative und Rangaussagen auf Belegbarkeit; Vergleiche auf ihre berufsrechtliche Zulässigkeit; sowie Bildmaterial auf die im gesonderten Beitrag behandelten bildrechtlichen Anforderungen.

Zwei organisatorische Punkte entscheiden darüber, ob diese Liste wirkt oder nur existiert.

Erstens die Qualifikation der prüfenden Person. Die Anforderung an einschlägiges Wissen und fachliches Urteilsvermögen ist keine Floskel: Wer medizinische Wirkaussagen prüfen soll, muss beurteilen können, ob sie zutreffen; wer werberechtliche Aussagen prüfen soll, muss die einschlägigen Verbote kennen. Eine Prüfung durch die Person, die den Text erzeugt hat, erfüllt die Anforderung strukturell nicht.

Zweitens die Dokumentation. Ein Prüfschritt, der stattgefunden hat, aber nicht nachweisbar ist, hilft im Streitfall nicht. Wer wann was geprüft und freigegeben hat, gehört festgehalten — nicht als Bürokratie, sondern weil die Beweislast im Zweifel bei demjenigen liegt, der sich auf die Ausnahme beruft.

06 Die Verantwortungskette

Die rechtliche Zurechnung generierter Inhalte folgt keiner Sonderregel. Sie folgt den allgemeinen Regeln — und die sind eindeutig.

Berufsrechtlich bestimmt § 27 Abs. 3 MBO-Ä, dass Ärzte berufswidrige Werbung durch andere weder veranlassen noch dulden dürfen. Ein Werkzeug ist erst recht kein Zurechnungshindernis: Wer einen Text veröffentlicht, veranlasst seine Verbreitung, unabhängig davon, ob ein Mensch oder ein Modell ihn formuliert hat.

Wettbewerbsrechtlich haftet, wer die Werbung in seinem geschäftlichen Interesse verbreitet. Verstöße gegen HWG und Berufsordnung sind über § 3a UWG abmahnfähig. Der Umstand, dass ein Modell die Formulierung erzeugt hat, ist kein Entlastungsgrund — und er ist auch kein Verschuldensargument, weil der Unterlassungsanspruch kein Verschulden voraussetzt.

Die Kette ist damit kurz: Das Modell erzeugt, ein Mensch prüft, das Unternehmen veröffentlicht und verantwortet. Verschieben lässt sich in dieser Kette nur der mittlere Schritt — er kann sorgfältig oder oberflächlich ausgeführt werden. Der letzte Schritt ist nicht verschiebbar.

Für die Zusammenarbeit mit Dienstleistern folgt daraus eine Anforderung an die Vertragsgestaltung, die selten gestellt wird: Wer prüft, mit welcher Qualifikation, und wer trägt die Freigabeverantwortung? Ein Dienstleistungsvertrag, der die Textproduktion regelt, aber die Prüfung nicht, verteilt die Arbeit und nicht das Risiko.

07 Fazit

Generative Systeme senken die Produktionskosten von Inhalten erheblich, und es gibt keinen fachlichen Grund, darauf zu verzichten. Was sie nicht senken, sind die Anforderungen an die Richtigkeit — und im medizinischen Marketing verschieben sie die Fehlerstruktur in eine ungünstige Richtung: von auffälligen Fehlern hin zu unauffälligen.

Die praktische Konsequenz ist keine Rückkehr zur Handarbeit, sondern eine Verlagerung des Aufwands. Was an Formulierungszeit gespart wird, muss in Prüfzeit fließen, und die Prüfung muss von jemandem geleistet werden, der die geprüften Aussagen beurteilen kann. Wo diese Verlagerung nicht stattfindet, entsteht kein Produktivitätsgewinn, sondern eine verlagerte Kostenposition mit Zeitverzug — die Korrektur nach einer Abmahnung ist teurer als die Prüfung davor.

Der bemerkenswerte Punkt an der Rechtslage seit August 2026 ist, dass sie diese Logik bestätigt. Der Verordnungsgeber verlangt keine Kennzeichnung von allem, was maschinell entstanden ist. Er verlangt sie dort, wo kein Mensch mit fachlichem Urteil hingesehen hat — und stellt frei, wer hingesehen und die Verantwortung übernommen hat.

Das ist eine bemerkenswert vernünftige Regel. Sie besteuert nicht die Technik, sondern die Nachlässigkeit.

Quellen und Rechtsgrundlagen

• Verordnung (EU) 2024/1689 (KI-Verordnung), insbesondere Art. 50 Abs. 4
• Europäische Kommission, Leitlinien zu den Transparenzpflichten nach Art. 50 KI-VO vom 20. Juli 2026 nebst FAQ zu menschlicher Überprüfung und redaktioneller Kontrolle
• Heilmittelwerbegesetz (HWG), insbesondere §§ 3, 6, 11
• Gesetz gegen den unlauteren Wettbewerb (UWG), insbesondere §§ 3a, 5
• § 27 der (Muster-)Berufsordnung für Ärztinnen und Ärzte; verbindlich sind die Berufsordnungen der Landesärztekammern