Ein Wächter nach draußen, eine Grenze nach innen
Der Wächter schwärzt Patientendaten vor dem Absenden. Und das System bleibt bewusst ein Textwerkzeug: Es diagnostiziert nicht und wird deshalb kein Medizinprodukt. Tippen Sie beides selbst.
Was dieses System nicht tut
Wer Ihnen sagt, wo die Grenzen sind, dem können Sie den Rest glauben. Vier Dinge sind hier bewusst nicht gebaut - und der Grund ist bei einer Praxis schärfer als anderswo: Jenseits dieser Grenze wäre die Software kein Textwerkzeug mehr, sondern ein zulassungspflichtiges Medizinprodukt.
Diagnose und Therapie sind ärztliche Kernleistung. Wer sie einer Software überlässt, macht aus ihr ein Medizinprodukt, das eine Benannte Stelle zertifizieren müsste, und verschiebt trotzdem keine Verantwortung: Die Haftung nach §§ 630a, 630h BGB bleibt beim Arzt. Der Assistent formuliert die von Ihnen getroffene Diagnose aus, er trifft sie nicht.
Ein ICD-Code als Vorschlag ist Kodier-Unterstützung und erreicht damit die Medizinprodukte-Klasse IIa und die Hochrisiko-Stufe des EU-KI-Rechts. Kodiert wird in Ihrem Praxisverwaltungssystem. Der Assistent darf eine von Ihnen genannte Ziffer erläutern; er schlägt keine vor.
Triage und Dosisprüfung sind Entscheidungen über Dringlichkeit und Behandlung. Dafür gibt es zertifizierte Systeme; dieses ist keines und gibt sich auch nicht dafür aus.
Die zweite Ehrlichkeit, gleich daneben: Sprachmodelle irren sich mitunter überzeugend. Jede Antwort ist ein Entwurf, nie ein Endprodukt. Deshalb steht in jedem Assistenten die Anweisung, keine eigene medizinische Wertung auszugeben, und deshalb steht die Prüfpflicht in der Dienstanweisung, die Sie mitbekommen. Die inhaltliche Verantwortung für jeden Brief und jeden Befund bleibt ärztlich.
Das Modell bekommt Platzhalter, nicht Ihren Patientenstamm
Bei den meisten Angeboten ist der Schutz von Patientendaten eine Verhaltensregel an Ihr Team. Hier ist er eine Funktion: geprüft gegen den Patientenstamm aus Ihrem Praxisverwaltungssystem, sichtbar vor dem Absenden, und in der Antwort wieder zurückgetauscht. Sie müssen uns das nicht glauben, Sie können es hier tippen. Dieses Widget rechnet vollständig in Ihrem Browser und sendet nichts ab.
Drei Schichten
Abgleich gegen den Patientenstamm Ihres Praxisverwaltungssystems (Rolle, Name, eigene Praxiskennung). Feste Muster für Versichertennummer, Geburtsdatum, IBAN, Telefon, E-Mail und Anschrift. Ein lokaler Restfänger für unbekannte Namen.
Rollen statt Nummern
Patient, Angehöriger und Zuweiser sind im Brief nicht austauschbar. Die Platzhalter tragen die Rolle mit, sonst schreibt das Modell Unsinn über die falsche Person.
Fail-closed
Auch ohne Treffer im Stamm gilt eine Anfrage als gelb, sobald sie nach Patient riecht: „meine Patientin", eine Anrede mit Namen, eine genannte Versichertennummer, ein Geburtskontext, ein sensibles Stichwort. Ein Fehlalarm kostet eine schwächere Antwort, ein Durchrutscher die Schweigepflicht - und die ist nach § 203 StGB strafbewehrt.
Heißt aus „Vosskamp" immer „[Patient B]"?
Die Platzhalter sind nicht zufällig. Namen aus Ihrem Patientenstamm bekommen einen festen, rollentragenden Platzhalter je Person: [Patient B] steht durchgängig für dieselbe Person, damit das Modell in einem langen Brief Patient und Zuweiser nicht verwechselt. Die Rolle bleibt sichtbar, der echte Name nie.
Innerhalb einer Behandlungsepisode bleibt der Platzhalter über alle Anfragen hinweg gleich. Legen Sie Ihre Chats zu einem Fall in einem Ordner ab, behält jede Person und jede Kennung über den ganzen Vorgang denselben Platzhalter - so geht das Gesamtbild über viele Diktate und Briefe hinweg nicht verloren. Diese Zuordnung liegt verschlüsselt auf Ihrer eigenen Instanz (je Fall eine Datei), geht nie an das Modell und wird zusammen mit dem Fall gelöscht. Für einzelne Fragen ohne Fall lebt die Zuordnung nur im Arbeitsspeicher und wird nach der Antwort verworfen.
Auch wenn jemand Sonderzeichen weglässt („Desiree" statt „Désirée", „Mueller" statt „Müller"), erkennt der Wächter den Namen.
Die Ersetzung passiert vor dem Absenden. Die Zuordnung von Name zu Platzhalter geht nie an das Modell und verlässt nie Ihre Instanz: innerhalb eines Falls liegt sie verschlüsselt auf Ihrem eigenen System und wird mit dem Fall gelöscht, außerhalb nur im Arbeitsspeicher. Diese Sätze tragen die gesamte Risikobewertung, deshalb stehen sie hier und nicht in einer Fußnote.
Was der Wächter absichtlich nicht schwärzt, und warum: den klinischen Sachverhalt. „62-jährige Patientin mit arterieller Hypertonie und HbA1c 7,8 %" ist genau das, was der Assistent braucht, um den Brief zu entwerfen - und ohne die Identifikatoren (Name, Geburtsdatum, Versichertennummer) ist es kein Gesundheitsdatum einer bestimmbaren Person mehr. Auch ICD-Ziffern und Behandlungsdaten bleiben stehen; nur der Geburtskontext und alte Daten ohne Bezug werden geschwärzt: „geboren am 04.11.1962" wird ersetzt, „Langzeit-EKG am 12.08." bleibt.
Wo der Assistent aufhört, und warum das gut ist
Die zweite Zusage ist so wichtig wie der Wächter: Der Assistent ordnet, formuliert und übersetzt, was Sie ihm sagen. Er trifft keine medizinische Entscheidung. Genau das hält Ihre Praxis und uns außerhalb der Medizinprodukte-Regeln. Prüfen Sie es: Tippen Sie eine Anfrage, und das Widget zeigt, ob sie innerhalb der Grenze liegt oder sie überschreitet.
Innerhalb
Ordnen, formulieren, umschreiben, in Patientensprache übersetzen, eine genannte Gebührenziffer erläutern. Der Assistent arbeitet mit dem, was Sie ihm geben.
Grenzüberschreitung
Eine Diagnose finden, einen ICD-Code vorschlagen, eine Therapie oder Dosis empfehlen, Dringlichkeit priorisieren. Hier antwortet der Assistent mit dem Hinweis, dass das Ihre ärztliche Entscheidung ist.
Warum das zählt
Die Einordnung als Medizinprodukt richtet sich nach der Funktion, nicht nach dem Marketing. Ein Werkzeug, das ordnet, ist keines. Ein Werkzeug, das entscheidet, schon - mit Zulassung, Konformitätsbewertung und Hochrisiko-Pflichten.
Warum baut ihr keine Diagnose- oder Kodier-KI? Andere tun das doch.
Weil das eine andere Risikoklasse ist, nicht nur ein weiteres Feature. Eine KI, die Diagnosen findet oder ICD-Codes vorschlägt, ist ein Hochrisiko-KI-System und bewegt sich Richtung Medizinprodukt - mit Betreiberpflichten, die dann Ihre Praxis treffen (dokumentierte menschliche Aufsicht, Protokollpflichten, gegebenenfalls Konformitätsbewertung). Wir haben uns bewusst für den anderen Weg entschieden: ein Textwerkzeug, das ordnet und formuliert. Sie bekommen dafür keinen diagnostischen Assistenten - und tragen dafür auch keine Hochrisiko-Pflichten und keine Medizinprodukte-Verantwortung. Welche der beiden Klassen Sie wollen, entscheiden Sie; wir sagen offen, in welcher wir stehen.
Warum nicht einfach ein Werkzeug, das rein lokal läuft und nie etwas nach außen gibt?
Das ist ein ehrlicher Ansatz, und für rote Fälle fahren wir ihn selbst (das Modell auf Ihrem eigenen Server). Sein Preis ist die Modellgüte: Rein lokal kann nur, was auf Ihre Praxis-Hardware passt, und das ist meist deutlich schwächer als die besten Modelle. Unser Weg gibt Ihnen beides: Der Wächter pseudonymisiert vor dem Absenden, deshalb dürfen gelbe Alltagsaufgaben über ein starkes, in der EU gehostetes Modell laufen, ohne dass Patientendaten im Klartext das Haus verlassen - und das Vertrauliche bleibt trotzdem lokal. Souveränität und Qualität, nicht das eine gegen das andere.
Was der Wächter nicht erkennt
Ein Anbieter, der seine Schwächen zeigt, hat gerade bewiesen, dass er sie kennt. Sechs Fehlerklassen, alle mit Beispiel, keine abstrakt:
1. Der fehlende Stammeintrag
„Die Tochter von Frau Kettelhoit ruft wegen der Befunde an." Kettelhoit steht nicht im Patientenstamm. Der Name geht durch. Was greift: Die Fail-closed-Regel erkennt die Anrede und macht die Anfrage gelb, das Modell im Drittland bekommt sie also nicht.
2. Die Kontextidentifizierung
„Der Bürgermeister aus dem Nachbarort, dessen Herz-OP in der Zeitung stand." Kein Name, kein Muster, und trotzdem eindeutig. Gegen diese Klasse hilft kein Wächter, sondern nur die rote Ampelstufe.
3. Der Tippfehler
„Vosskam" statt „Vosskamp". Der Abgleich verzeiht fehlende Sonderzeichen („Desiree" für „Désirée"), aber keine ausgelassenen Buchstaben - sonst würde er halbe Wörter zerlegen. Genau deshalb gibt es die Prüfansicht vor dem Absenden.
4. Der Fremdbefund
Ein eingefügter Befund einer anderen Einrichtung enthält Namen von Personen, die in keinem Stamm stehen: Angehörige, Vorbehandler, Pflegekräfte. Sie sind dem Wächter unbekannt.
5. Der Sachverhalt selbst
Bei einer seltenen Erkrankung, einem prominenten Patienten oder einem kleinen Ort ist der pseudonymisierte Text weiterhin zuzuordnen. Das ist keine Schwäche der Umsetzung, das ist die Grenze des Verfahrens.
6. Das Diktat
Ärzte diktieren, und die Tonaufnahme durchläuft den Wächter nicht: Sie geht als Audio an die Spracherkennung, erst das Transkript wird geschwärzt. Bis die Spracherkennung auf Ihrem eigenen Server läuft, bleibt die Mitschrift auf pseudonymfähige Situationen beschränkt, und genau so steht es in der Dienstanweisung.
Zur Messung, offen gesagt: Der Selbsttest des Wächters entsteht gemeinsam mit dem Wächter und misst zunächst Konsistenz, nicht Betriebsrecall. Eine Prozentzahl behaupten wir nicht. Belastbar wird eine Erkennungsquote erst an einem unabhängigen Testsatz aus echten, anonymisierten Fällen Ihrer Praxis, und genau das ist ein eigener Arbeitsschritt im Projekt.
Und die Klarstellung, bevor sie jemand anders ausspricht: Der Wächter anonymisiert nicht, er pseudonymisiert. Die Verarbeitung bleibt personenbezogen und gehört in Ihr Verzeichnis der Verarbeitungstätigkeiten. Den Textbaustein dafür liefern wir mit.
Die Ampel: ein Blatt, auf das Sie zeigen können
In einer Praxis ist fast alles vertraulich, bis hin zur Tatsache der Behandlung. Eine Ampel, die das ignoriert, ist Dekoration. Diese hier fängt deshalb mit Rot an.
Rot bleibt im Haus
Nicht weil die Technik versagt, sondern weil Pseudonymisierung hier nicht trägt oder die Datenkategorie zu scharf ist:
- Sachverhalte, die für sich identifizieren: seltene Erkrankungen, prominente Patienten, kleine Orte
- besonders sensible Bereiche auch pseudonymisiert: Psychiatrie, HIV, Suchtmedizin, Reproduktionsmedizin, genetische Befunde
- Patienten, die dem KI-Einsatz widersprochen haben
Für rote Fälle bleibt das Modell auf Ihrem eigenen Server oder die klassische Arbeitsweise ohne KI. Das ist eine legitime Antwort.
Grün, jederzeit
Kein Patientenbezug, kein Personenbezug:
- allgemeine Fachfragen, Leitlinien erklären lassen
- Patienteninformationen und Aushänge ohne Namen
- QM- und Organisationsdokumente
- Gebührenziffern erläutern, Fachbegriffe patientengerecht formulieren
Hier liegt ein erheblicher Teil des Nutzens, und es ist der Teil, mit dem Sie ohne jede datenschutzrechtliche Vorklärung anfangen können.
Gelb, nur geschwärzt
Der Alltag, technisch abgesichert durch den Wächter und begrenzt durch dessen Schwächen:
- Arztbrief-Entwurf aus Diktat oder Stichworten
- Anamnese strukturieren
- Befund in Patientensprache
- Antrags- und Attest-Entwurf
Gelbe Anfragen hält das System serverseitig vom Drittland-Modell fern, auch wenn jemand es von Hand auswählt.
Die Sortierübung: fünf Fälle, wo gehören sie hin?
Erfahrungsgemäß sitzt die Ampel nach fünf Fällen. Probieren Sie es.
Genau dieser Text wird als Entwurf einer Praxis-Dienstanweisung mitgeliefert, mit Ihrem Datenschutzbeauftragten angepasst und von der Praxisleitung gezeichnet.
Hängt das an der ePA oder am Praxisverwaltungssystem? Nein, und das ist Absicht
Wir haben das geprüft, bevor wir gefragt wurden, und geben Ihnen das Ergebnis ungeschönt.
Wir sind kein Bestandteil der Telematikinfrastruktur
Wir hängen nicht an ePA, eRezept oder KIM und brauchen dafür keine gematik-Zulassung. Ihre zertifizierten Fachdaten bleiben in der Telematikinfrastruktur und im Praxisverwaltungssystem. Wir sitzen daneben, als separater Assistent - nicht darin.
Der Patientenstamm kommt als Export, nicht als Kopplung
Für den Wächter genügt ein CSV-Export aus Ihrem Praxisverwaltungssystem; er liegt lokal auf Ihrem Server. Wir binden das System nicht per Schnittstelle an - Gesundheitsdaten sind die schärfste Kategorie, und es gibt keinen Bedarf für eine Live-Kopplung.
Das ist dieselbe Haltung, mit der wir bei Kanzleien sagen: Wir ersetzen nicht die Fachdatenbank. Ihr Praxisverwaltungssystem behalten Sie, Ihre TI-Anbindung bleibt, unser Assistent läuft daneben und sieht nur, was der Wächter durchlässt.
Wer die Chatverläufe sehen kann, und wer nicht
Die Frage kommt spätestens beim zweiten Termin, und sie kommt zu Recht: Was eine MFA oder eine angestellte Ärztin in ein Chatfenster tippt, ist auch dann sensibel, wenn kein Patient darin vorkommt.
| Wer | Sieht was | Wie lange gespeichert |
|---|---|---|
| Der Nutzer selbst | eigene Verläufe vollständig | bis zur eigenen Löschung, längstens bis zur eingestellten Frist (Standard 90 Tage) |
| Praxis-Administrator | Konten und Rechte; fremde Verläufe technisch nicht | Änderung dieser Einstellung ist im Prüfprotokoll sichtbar |
| FabStack im Support | nur nach ausdrücklicher Anforderung und dokumentiert | kein Dauerzugriff |
| Serverprotokolle | Zeitpunkt, Nutzer, Modell, keine Inhalte | 14 Tage |
| Schwärzungsprotokoll | Typ und Anzahl der Ersetzungen, nie Originaltexte | nach Löschkonzept |
Die Nutzungsauswertung für die Praxisleitung ist ohne Personenbezug. Es gibt keine Auswertung einzelner Mitarbeiterinnen und keine Leistungs- oder Verhaltenskontrolle. In größeren Einheiten mit Betriebsrat (etwa MVZ) gilt: Eine Plattform mit Chatverläufen ist eine technische Einrichtung, die zur Leistungs- und Verhaltenskontrolle geeignet ist. Sprechen Sie vor der Einführung mit dem Gremium; eine Muster-Vereinbarung liegt bei.