Ihre Gebrauchsanweisung ist freigegeben. Was KI darüber sagt, nicht.
Eine Pflegefachfrau im Nachtdienst will wissen, ob ein Produkt während einer MRI-Untersuchung am Körper bleiben darf. Ein Vater fragt, ob ein Glukosesensor für seine zweijährige Tochter geeignet ist. Beide fragen eine KI und erhalten in Sekunden eine Antwort, die sicher klingt. Ob sie mit Ihrer aktuellen Gebrauchsanweisung übereinstimmt, weiss in Ihrem Unternehmen niemand.
Das ist keine Randerscheinung. In den USA hat rund jede dritte erwachsene Person im vergangenen Jahr einen KI-Chatbot für Gesundheitsinformationen genutzt1. Ich messe, was KI-Antworten über Ihre Produkte sagen, Frage für Frage, gegen Ihre freigegebene Gebrauchsanweisung und Produktinformation.
Für Ihre Angaben gilt ein rechtlicher Massstab. Für KI-Antworten über Ihr Produkt nicht.
Der Massstab für Ihre eigenen Angaben
Angaben zu einem Medizinprodukt müssen der Produktinformation entsprechen und dürfen nicht irreführen, namentlich zu Zweckbestimmung, Sicherheit und Leistung (MepV Art. 692, EU-MDR Art. 73). KI-Antworten sind nicht Ihre Werbung, aber Fachpersonen und Patienten lesen sie, als wären sie Produktinformation.
Überzeugend formuliert, manchmal gefährlich
In einem ärztlich geleiteten Test von vier Chatbots mit 222 Patientenfragen waren je nach Chatbot 5 % (Claude) bis 13 % (GPT-4o, Llama 3) der Antworten unsicher4. Die Antworten zeigen ihre eigene Unsicherheit selten an.
Zweimal gefragt, anders geantwortet
Bei ChatGPT und Googles KI lieferten wiederholte Prompts nach Produktempfehlungen in weniger als einem von hundert Fällen dieselbe Markenliste5. Eine einzelne Antwort ist eine Anekdote. Erst wiederholtes Messen zeigt das Muster.
Eine Frage, fünf Antworten, eine alte Fassung
Illustration – fiktives Produkt, keine echte klinische Empfehlung
- Frage
- «Darf ich den Glukosesensor Produkt X bei meiner zweijährigen Tochter verwenden?»
- Ihre Referenz
- Die aktuelle Gebrauchsanweisung: der freigegebene Altersbereich und der Warnhinweis gegen die Anwendung ausserhalb davon.
- Ergebnis (5 Durchläufe)
- 2 von 5 Antworten sagen ja und lassen die Altersgrenze weg.
- Woher es kommt
- Beide Antworten zitieren eine ersetzte Fassung der Gebrauchsanweisung, die noch online ist. Die aktuelle Fassung wird in keinem der fünf Durchläufe zitiert.
- Was hilft
- Ersetzte Fassungen zurückziehen oder klar kennzeichnen und Zweckbestimmung, Altersbereich und wichtigste Warnhinweise auf einer zitierfähigen Webseite veröffentlichen. Dann erneut messen und prüfen, ob sich die Antworten verändern.
Nur zur Illustration. Das Audit misst Abweichungen von Ihren freigegebenen Aussagen; es ist keine medizinische Beratung und bewertet keine klinischen Inhalte.
In vier Schritten von der Frage zum Befund
-
Schritt 1
Sie legen fest, was korrekt ist
Für jede Frage liefern Sie eine Referenzaussage aus Ihren freigegebenen Quellen: Gebrauchsanweisung (auch eIFU), Produktseite, freigegebene Werbeaussagen, Sicherheitsmitteilungen. Auf Wunsch schlägt das System Aussagen mit der Fundstelle vor, und Sie bestätigen oder korrigieren sie. Es zählen nur Fakten, die ein Mensch bestätigt hat. Jede Antwort wird an ihnen gemessen und an nichts anderem.
-
Schritt 2
Fragen so, wie Fachpersonen und Patienten sie stellen
12 bis 16 Fragen pro Produkt, in der Sprache der jeweiligen Zielgruppe: wofür das Produkt bestimmt ist, wer es anwenden darf, Verträglichkeit mit anderen Produkten oder mit MRI, Reinigung und Aufbereitung, welches Produkt zu einem Bedürfnis passt. Auch die heiklen Fragen zu Kindern, Schwangerschaft und Anwendung ausserhalb der Zweckbestimmung.
-
Schritt 3
Gefragt wie von Anwendern, mehr als einmal
Die Fragen gehen an die KI-Systeme Ihrer Wahl, ohne Ihre Referenzen und ohne Hinweis darauf, dass ein Test läuft. Jede Frage wird mehrmals gestellt, mit und ohne Live-Websuche, weil Antworten variieren. Jede Antwort wird wörtlich gespeichert, mit Datum und Modell.
-
Schritt 4
Geprüft gegen Ihre Referenz
Ein KI-Modell eines anderen Anbieters als jenes, das geantwortet hat, zerlegt jede Antwort in Einzelaussagen und prüft sie gegen Ihre Referenz: bestätigt, falsch, unbelegt oder Kernbotschaft fehlt. Abweichungen bewertet es nach Fehlerart und Schweregrad. Danach prüft ein Mensch eine Stichprobe der Bewertungen; sicherheitsrelevante Befunde bleiben vorläufig, bis sie bestätigt sind. Sie erhalten die Originalantwort, die Abweichung und einen Vorschlag, wer die Korrektur verantwortet.
Automatisierte Durchläufe nutzen die offiziellen Programmierschnittstellen (APIs) der Systeme. Eine API-Antwort kann von dem abweichen, was die Konsumenten-App zeigt. Wo es darauf ankommt, ergänze ich deshalb manuelle Prüfungen in den Chat-Apps, nach denselben Kriterien bewertet, und jedes Ergebnis weist aus, auf welchem Weg es entstanden ist. Die Automatisierung führt die Prüfungen durch und dokumentiert sie; qualifizierte Personen legen die Referenz fest und prüfen die Befunde.
In einem globalen Pharmakonzern war ich für drei interne Audits im Bereich Digital Governance verantwortlich und habe die daraus entstandenen Befunde geschlossen; das Ergebnis war eine konzernweite Weisung zur digitalen Compliance.
Anzeichen, dass sich ein Blick lohnt
- Zweckbestimmung: KI beschreibt Anwendungen, die über die freigegebene Zweckbestimmung hinausgehen oder davon abweichen.
- Warnhinweise & Kontraindikationen: KI lässt Warnhinweise, Kontraindikationen oder Altersgrenzen weg.
- Fassungen & Varianten: KI zitiert ersetzte Gebrauchsanweisungen oder verwechselt Modelle, Grössen oder Ländervarianten.
- Zielgruppe: KI empfiehlt Laien ein Produkt, das für Fachpersonen bestimmt ist.
- Marke & Empfehlung: KI empfiehlt ein Konkurrenzprodukt oder verwechselt Ihre Marke, wenn jemand fragt: «Welches Produkt eignet sich am besten für X?»
Was das nicht ist
- Keine medizinische, regulatorische oder rechtliche Beurteilung: Ob eine Abweichung relevant ist und ob etwas meldepflichtig ist, entscheiden Ihre RA/QA- und medizinischen Fachleute.
- Kein Vigilance-System: Befunde können in Ihre Überwachung nach dem Inverkehrbringen einfliessen; sie ersetzen sie nicht.
- Kein Ranking: Die Position ändert sich von Antwort zu Antwort5. Deshalb messe ich, wie oft und wie korrekt Ihr Produkt beschrieben wird.
- Keine Garantie: Niemand kann einem Modell vorschreiben, was es sagt. Das Audit zeigt, wo die Lücken sind und ob sie sich schliessen.
Kostenlos starten. Danach Fixpreise.
Snapshot
Kostenlos
5 Fragen, ein System, eine Seite. Ein erster Blick darauf, was KI heute über Ihr Produkt sagt.
Im Gegenzug: 15 Minuten, um das Ergebnis gemeinsam durchzugehen.
KI-Antwort-Audit
Fixpreis
12–16 Fragen pro Produkt über die Systeme und Sprachen Ihrer Wahl, jede mehrmals gestellt. Jede Antwort wörtlich gespeichert, gegen Ihre freigegebene Referenz geprüft, mit einem Vorschlag, wer die jeweilige Korrektur verantwortet. Rund 2 Wochen.
Umfang und Preis werden im Scoping-Gespräch bestätigt.
Monitoring
Wiederkehrend
Dieselben Fragen, in festem Rhythmus neu gemessen. Denn derselbe KI-Dienst kann sich innert Monaten verändern: In einer Studie erkannte GPT-4 Primzahlen im März 2023 in 84 % der Fälle korrekt, im Juni noch in 51 %6. Jede Nachmessung zeigt zudem, ob sich die Antworten seit Ihren Massnahmen verändert haben; auch Modell-Updates wirken mit.
Für Hersteller, deren KI-Antworten beobachtet werden müssen.
Alle Preise in CHF, exkl. MWST. Der definitive Umfang wird im ersten Scoping-Gespräch bestätigt.
Häufige Fragen vor einem Test
Was brauchen Sie von uns für einen Test?
Ihren Produkt- oder Markennamen, Ihre Domain und pro Frage eine Referenzaussage mit ihrer öffentlichen Quelle – zum Beispiel Ihre Gebrauchsanweisung, Ihre Produktseite oder freigegebene Werbeaussagen. Die Fragen legen wir gemeinsam fest. Bitte teilen Sie nur Informationen, die bereits öffentlich und für die externe Verwendung freigegeben sind.
Wer sieht die Ergebnisse?
Nur Sie. Die Ergebnisse werden weder veröffentlicht noch mit anderen Unternehmen verglichen.
Welche KI-Systeme werden getestet?
Die Systeme Ihrer Wahl, vor Beginn bestätigt. Jedes Ergebnis nennt System, Modell und Datum und gibt an, ob die Antwort über die API des Systems oder über seine Chat-App kam.
Sagt uns der Test, ob eine Antwort ein Compliance- oder Vigilance-Fall ist?
Nein. Er zeigt, wo eine KI-Antwort von Ihren freigegebenen Aussagen abweicht. Ob eine Abweichung regulatorisch, rechtlich oder medizinisch relevant ist und ob etwas gemeldet werden muss, entscheiden Ihre eigenen Teams.
Wie verlässlich ist das Ergebnis?
KI-Modelle erzeugen jede Antwort neu, deshalb kann dieselbe Frage beim nächsten Mal eine andere Antwort erhalten. Darum wird im Audit jede Frage mehrmals gestellt, und es zählt das Muster über alle Fragen, nicht eine einzelne Antwort. Jedes Ergebnis nennt Datum und Modell.
Quellen
- KFF (März 2026). Poll: 1 in 3 adults are turning to AI chatbots for health information. KFF Tracking Poll on Health Information and Trust, Erwachsene in den USA, n = 1’343. (US-Daten; vergleichbare Zahlen für die Schweiz liegen mir nicht vor.)
- Medizinprodukteverordnung (MepV), SR 812.213, Art. 69 (Werbung) (zweisprachige Darstellung; massgebend ist die amtliche Fassung auf fedlex.admin.ch).
- Verordnung (EU) 2017/745 über Medizinprodukte (MDR), Art. 7 (Angaben).
- Draelos, R. L. et al. (2025). Large language models provide unsafe answers to patient-posed medical questions. arXiv-Preprint 2507.18905. (222 Fragen, 888 Antworten von Claude, Gemini, GPT-4o und Llama 3; Bewertung durch Ärztinnen und Ärzte.)
- Fishkin, R. & O'Donnell, P. (2026). AIs are highly inconsistent when recommending brands or products. SparkToro; Zusammenfassung im Search Engine Journal. (2’961 Durchläufe von 12 Prompts nach Markenempfehlungen durch Hunderte Freiwillige in ChatGPT, Claude und Google AI Overviews; nicht peer-reviewed; Mitautor Patrick O'Donnell arbeitet für das KI-Tracking-Start-up Gumshoe.ai.)
- Chen, L., Zaharia, M. & Zou, J. (2024). How Is ChatGPT's Behavior Changing over Time? Harvard Data Science Review. (GPT-3.5 und GPT-4, März vs. Juni 2023; Aufgabe: Primzahlen erkennen, 84,0 % vs. 51,1 %; nicht Gesundheit.)
Kostenlosen Snapshot anfragen
Sagen Sie mir, an welches Produkt Sie denken. Anhand von fünf echten Fragen, mit einem System, auf einer Seite zeige ich Ihnen, was KI-Assistenten Fachpersonen und Patienten heute darüber sagen.
Snapshot anfordern