Eine Erklärung ist noch keine Prüfung
Eine KI-Antwort kann freundlich klingen, Begriffe erklären und eine unübersichtliche Frage in wenige Absätze ordnen. Daraus folgt aber nicht, dass sie für eine einzelne Person richtig ist. Genau an dieser Grenze setzt die hier besprochene Untersuchung an: Können kurze Lernangebote Menschen helfen, bei Gesundheitsfragen zwischen unterschiedlichen Aufgaben zu unterscheiden?
Für die Sprechstunde ist das eine konkrete Kommunikationsfrage. Wer eine Erklärung mitbringt, kann sagen: „Dieser Text hat mir einen Begriff verständlicher gemacht. Ob er auf mich zutrifft, weiß ich noch nicht.“ Damit werden zwei verschiedene Leistungen sichtbar: Sprache zugänglich machen und eine persönliche medizinische Situation beurteilen. Die Studie von Julie Ayre und Kollegen prüfte ein Bildungsangebot zum Umgang mit ChatGPT. Sie prüfte weder eine ärztliche KI noch die Richtigkeit einer Diagnose.
Unser Beitrag überträgt diese Unterscheidung in eine Gesprächsvorbereitung. Die nachfolgenden Quellen- und Unsicherheitsfragen sind redaktionelle Vorschläge. Sie wurden nicht als eigene Intervention in der Studie getestet. Auch die interaktive Demo unten ist kein Chatbot: Sie erzeugt aus festen Auswahlmöglichkeiten einen Gesprächszettel und verarbeitet keine Freitexte, Symptome oder Befunde.
Was das Lernexperiment tatsächlich verglich
Die Originalpublikation erschien am 17. November 2025 in npj Digital Medicine. Untersucht wurde ein dreiarmiger, randomisierter Onlineversuch. Teilnehmen konnten Erwachsene in Australien ohne Hochschulabschluss, die ChatGPT innerhalb der letzten sechs Monate genutzt hatten. Die Rekrutierung erfolgte über ein vergütetes Onlinepanel. Das ist eine klar begrenzte Gruppe, keine repräsentative Stichprobe aller Patienten in deutschen Praxen.
Insgesamt wurden 619 Personen randomisiert. In die Auswertung gingen 592 ein, nachdem 27 anhand der festgelegten Prüfungen gegen auffällige beziehungsweise betrügerische Antworten ausgeschlossen worden waren. Die Bildungsangebote waren gemeinsam mit sechs Mitgliedern der Öffentlichkeit entwickelt worden. Diese Mitgestaltung betrifft die Entstehung des Materials; sie ersetzt keine Untersuchung seiner späteren Wirkung im Versorgungsalltag.
Eine Gruppe sah eine Animation von drei Minuten und 40 Sekunden. Eine zweite betrachtete sieben Bilder in einem Karussell. Beide Angebote vermittelten dieselben Kernbotschaften zu ChatGPT und Gesundheitsfragen. Die Kontrollgruppe sah eine Infografik über gesunde Ernährung, also ein Gesundheitsthema ohne die entsprechenden KI-Lerninhalte. Ein solcher Vergleich ist genauer als „mit Aufklärung gegen gar nichts“.
Auch die vorgesehene Betrachtungszeit war nicht gleich: Für die Animation musste die Seite über die Videolänge geöffnet bleiben, für Bilder und Kontrolle mindestens 60 Sekunden. Der Vergleich betrifft daher diese konkreten Angebotspakete. Aus ihm lässt sich nicht isoliert ableiten, dass jede Animation allein aufgrund ihres Formats besser als jedes Bildmaterial wäre.
Gemessen wurde eine Absicht – kein Behandlungserfolg
Die primären Endpunkte waren Absichten, ChatGPT für Gesundheitsfragen mit niedrigerem beziehungsweise höherem Risiko zu verwenden. Die Teilnehmenden bewerteten hypothetische Situationen auf einer fünfstufigen Skala: von eindeutig vermeiden bis eindeutig ausprobieren. Allgemeines Wissen über eine Erkrankung und das Verständnis eines Fachbegriffs sind andere Aufgaben als die Interpretation eines persönlichen Laborbefunds oder eine Empfehlung für eine bestimmte Behandlung.
Die Einteilung „niedrigeres Risiko“ bedeutet dabei nicht „gar kein Risiko“. Sie bezeichnet die von den Forschenden gewählten Szenarien. Die Studie liefert keine allgemeine Freigabeliste für jede heutige KI-Anwendung. Insbesondere ist ein verständlicher Satz kein Beleg dafür, dass seine Quelle passt, sein Inhalt vollständig ist oder die Aussage für eine konkrete Person gilt.
| Lernziel | Prüfmaß im Versuch | Damit nicht geprüft |
|---|---|---|
| Aufgaben unterscheiden | Absicht bei hypothetischen Gesundheitsfragen | Tatsächliches späteres Verhalten |
| Grundlagen verstehen | Studieneigene Wissensfragen | Diagnostische Genauigkeit eines KI-Systems |
| Vertrauen einordnen | Selbstberichtetes Vertrauen | Weniger Behandlungsfehler oder Beschwerden |
| Material beurteilen | Bewertung von Nutzen und Akzeptanz | Wirksamkeit in einer deutschen Sprechstunde |
Zusätzlich wurden Wissen über ChatGPT und Vertrauen in das Werkzeug erhoben. Bei den Wissensfragen wurde ein ursprünglich vorgesehenes Item vor der Auswertung wegen unklarer Formulierung und Problemen der Zuverlässigkeit ausgeschlossen. Das verdeutlicht, warum die genaue Messmethode zur Nachricht gehört: „Mehr Wissen“ bezieht sich hier auf dieses Instrument, nicht auf eine umfassend bewiesene medizinische Kompetenz.
Die Richtung des Ergebnisses – und ihre Grenze
Bei den als höher riskant eingestuften Situationen lag die mittlere Nutzungsabsicht nach der Animation bei 2,42 von fünf Punkten, nach den Bildern bei 2,69 und in der Kontrollgruppe bei 3,12. Beide Bildungsgruppen lagen unter der Kontrolle; der Unterschied zwischen Animation und Bildern wurde ebenfalls als statistisch signifikant berichtet. Diese Mittelwerte sind Skalenwerte, keine Prozentangaben und keine persönlichen Risikozahlen.
Für die niedriger riskanten Szenarien fand die Untersuchung keinen statistisch nachgewiesenen Gruppeneffekt; der berichtete p-Wert beträgt 0,800. Das ist keine Garantie, dass alle Gruppen unter allen Umständen gleich handeln würden. Es beschreibt die Auswertung dieses Endpunkts im Versuch. Bei Wissen und Vertrauen zeigte sich die erwartete Richtung: Bildungsgruppen beantworteten mehr Wissensfragen richtig und äußerten weniger Vertrauen als die Kontrollgruppe.
Die präzise Nachricht lautet deshalb: Kurze, gemeinsam entwickelte Lernmaterialien veränderten im kontrollierten Onlineversuch bestimmte unmittelbar erhobene Antworten. Die Nachricht lautet nicht: „Ein Video macht KI-Diagnosen sicher.“ Es wurden weder KI-Diagnosen überprüft noch Behandlungsergebnisse verglichen. Auch ein niedrigerer Vertrauenswert ist für sich genommen kein Nachweis einer besseren persönlichen Entscheidung.
Im Original finden sich uneinheitliche Angaben zu einzelnen Gruppengrößen im Abstract und in Tabelle 1. Wir übernehmen deshalb keine armbezogenen Teilnehmerzahlen oder demografischen Prozentwerte. Die hier berichtete Gesamtzahl und die Mittelwerte aus Tabelle 2 bleiben davon getrennt. Diese redaktionelle Einschränkung soll Unstimmigkeiten sichtbar halten, statt sie still durch eine vermeintlich passende Zahl aufzulösen.
Für wen gilt die Evidenz?
| Baustein | Population oder Methode | Messziel | Aussagegrenze |
|---|---|---|---|
| Randomisierter Vergleich | Australische Erwachsene ohne Hochschulabschluss, mit ChatGPT-Erfahrung | Absichten nach definierten Lernangeboten | Keine pauschale Übertragung auf alle Patienten |
| Hypothetische Szenarien | Sieben Fragen, gruppiert nach Aufgabenrisiko | Bereitschaft zur Nutzung auf fünf Stufen | Absicht ist kein beobachtetes Verhalten |
| Weitere Messungen | Studieneigene Wissensfragen und Vertrauensangabe | Wissen und Vertrauen | Kein validierter klinischer Sicherheitstest |
| Kontrollierte Darstellung | Vorgegebene Mindestbetrachtungszeiten | Reaktion unter Studienbedingungen | Alltag und langfristige Wirkung bleiben offen |
Die Autoren nennen die fehlende psychometrische Prüfung des eigens entwickelten Instruments und den möglichen Abstand zwischen Absicht und Verhalten ausdrücklich als Einschränkungen. Ebenso bleibt offen, wie gut sich die Materialien außerhalb der kontrollierten Situation durchsetzen. Ein Lernangebot, das in einer Befragung betrachtet werden muss, ist nicht dasselbe wie ein freiwillig angesehenes Video im Alltag.
Auch die Technologie verändert sich. Die Lernbotschaften wurden 2023 und 2024 entwickelt, die Rekrutierung fand Ende 2024 statt. Daraus folgt kein aktuelles Leistungsurteil über sämtliche Modelle oder Produkte im Oktober 2026. Wer eine Quelle prüft, sollte deshalb nicht nur nach dem Erscheinungsdatum fragen, sondern auch nach dem Zeitraum und dem tatsächlich untersuchten Gegenstand.
Zwei Fragen, die eine Prüfung wieder öffnen
Eine Quellenfrage könnte lauten: „Welche Originalquelle trägt diese konkrete Aussage, und wurde dort dieselbe Personengruppe untersucht?“ Ein Link allein beantwortet das nicht. In einem mitgebrachten Text können Quelle, Zusammenfassung und persönliche Schlussfolgerung ineinanderlaufen. Die Frage soll diese Ebenen auseinanderziehen, nicht die medizinische Bewertung an eine Internetseite delegieren.
Eine Unsicherheitsfrage könnte lauten: „Was wissen wir für meine Situation noch nicht, und welche Informationen fehlen für eine fachliche Einordnung?“ Eine allgemeine Antwort berücksichtigt nicht automatisch Vorgeschichte, Untersuchung, Verlauf oder andere Informationen. Die Demo fordert solche Angaben bewusst nicht an. Sie hält nur fest, welche Rückfrage im persönlichen Gespräch sinnvoll besprochen werden könnte.
Für die Vorbereitung reicht oft ein kurzer Zettel: Welche Formulierung war unklar? Welche Quelle wurde genannt? Welche persönliche Schlussfolgerung steht im Raum? Dies ist eine organisatorische Hilfe, kein aus dem Versuch abgeleiteter Wirksamkeitsnachweis. Der Beitrag behauptet weder kürzere Termine noch bessere Diagnosen durch diese Vorbereitung. Ein Gesprächszettel kann Fragen sichtbar machen, ohne selbst ihre medizinische Antwort zu liefern.
Sprechstunden-Demo: einen Gesprächszettel bauen
Wählen Sie einen fiktiven Anlass und einen Fragefokus. Die Ausgabe formuliert beide Rückfragen; der gewählte Fokus bestimmt ihre Reihenfolge. Keine Eingabe persönlicher Daten, keine KI-Abfrage, keine Speicherung und keine Diagnose. Die Demo ist nicht das geprüfte Studienmaterial.
Was hier bewusst nicht versprochen wird
Die Quellenfrage ist kein Zaubersatz, der eine falsche Antwort automatisch repariert. Die Unsicherheitsfrage macht einen allgemeinen Text nicht zu einer persönlichen Beratung. Beide dienen hier dazu, einen Unterschied in der Kommunikation erkennbar zu halten: Verstehen, Prüfen und Entscheiden sind verschiedene Schritte. Niemand muss einen fertig bewerteten KI-Text in die Praxis bringen, um eine Frage stellen zu dürfen.
Auch Förderung und Interessen gehören zur Einordnung. Die Publikation nennt keine spezifische Projektförderung, weist aber auf Forschungsstipendien hin. Zwei Autorinnen sind Mitdirektorinnen eines Unternehmens, das den im Artikel erwähnten Health-Literacy-Editor lizenziert. Das wird offengelegt; es entscheidet nicht allein über die Aussagekraft der randomisierten Ergebnisse. Entscheidend bleiben die untersuchte Gruppe, die konkreten Angebote, die Messinstrumente und ihre Grenzen.
Unser praktischer Schluss ist entsprechend schmal: Eine KI-Erklärung lässt sich als Gesprächsanlass kennzeichnen, statt sie als abgeschlossene medizinische Prüfung vorzustellen. Ob eine Information für eine konkrete Person zutrifft, bleibt eine andere Frage. Die Ergebnisse dieses Bildungsversuchs dürfen nicht als klinisches Gütesiegel für ein Produkt, eine Diagnose oder eine Behandlung verwendet werden.
Häufige Fragen
Hat die Studie gezeigt, dass ChatGPT richtig diagnostiziert?
Nein. Untersucht wurden Lernmaterialien und anschließend erhobene Nutzungsabsichten, Wissen und Vertrauen. Diagnostische Genauigkeit und Behandlungsergebnisse waren keine Endpunkte.
Wer nahm an dem Versuch teil?
Erwachsene in Australien ohne Hochschulabschluss und mit ChatGPT-Nutzung in den vorangegangenen sechs Monaten. 619 wurden randomisiert, 592 nach den festgelegten Ausschlüssen ausgewertet.
Was bedeutet niedrigeres Risiko in diesem Artikel?
Das ist die Einteilung der hypothetischen Aufgaben in der Studie, etwa allgemeines Wissen statt persönlicher Behandlungsberatung. Sie bedeutet keine Fehlerfreiheit oder allgemeine Freigabe.
Beweist weniger Vertrauen einen gesundheitlichen Nutzen?
Nein. Vertrauen wurde selbst berichtet. Daraus ergibt sich weder ein Nachweis besserer Diagnosen noch ein Nachweis weniger gesundheitlicher Schäden.
Ist die Sprechstunden-Demo die geprüfte Intervention?
Nein. Die Demo ist eine eigene redaktionelle Gesprächshilfe mit festen Texten. Im Versuch wurden eine Animation und sieben Bilder geprüft.
Werden persönliche Befunde in der Demo gespeichert?
Nein. Die Demo bietet nur vorgegebene Beispiele und Fragefokusse an. Sie sendet nichts an einen KI-Dienst und speichert keine Eingaben.
Originalquelle und redaktioneller Stand
Ayre J, Taba M, Nickel B, Edlund G, Vu T, Yan J, Butters L, Ma ICK und McCaffery KJ. Can co-designed educational interventions help consumers think critically about asking ChatGPT health questions? Results from a randomised-controlled trial. npj Digital Medicine 8, 672 (2025), veröffentlicht am 17. November 2025. Originalpublikation · DOI 10.1038/s41746-025-02056-5.
Geprüft wurden der veröffentlichte Originalvolltext mit Methoden, Ergebnissen, Tabellen, Abbildungsbeschreibungen, Diskussion und Interessenerklärung sowie der aktuelle Crossref-Datensatz. Dort war kein Aktualisierungsverweis verzeichnet; dies ist kein umfassender Rückruf- oder Korrekturaudit. Keine eigenständig ungeprüften Studien aus dem Literaturverzeichnis, keine übernommenen Studienabbildungen und keine Zahlenbehauptungen aus den Supplementen. Redaktioneller Stand: 21. Oktober 2026.
