Manuel brachte Einblicke in das Projekt AI_dshilfe labs und erste Ergebnisse einer partizipativen Studie mit, in deren Mittelpunkt Menschen mit HIV stehen.
Große Versprechen, gelebte Praxis
Der Diskurs über KI im Gesundheitswesen ist von großen Erzählungen geprägt. Ray Kurzweil, ein US-amerikanischer Erfinder, Informatiker und Zukunftsforscher, stellt lange, gesunde Leben und die Heilung von Alzheimer und Krebs in Aussicht. Auch hierzulande wird ambitioniert argumentiert: Hofmann verweist auf eine Aussage des Charité-Vorstandsvorsitzenden in den ARD Tagesthemen, wonach dort innerhalb von zehn Jahren ein Drittel der Stellen durch KI ersetzt werden sollen, ohne klare Trennung zwischen ärztlichen, pflegerischen und verwaltenden Tätigkeiten. Wie realistisch das ist, sei offen. Solche Erzählungen prägen aber, mit welchen Erwartungen Menschen auf Sprachmodelle schauen. Deren Nutzung ist längst Alltag. Mehrere Umfragen kommen auf einen ähnlichen Wert. Social-Listening-Analysen zeigen zudem, dass psychosoziale Unterstützung zu den häufigsten Anwendungsfällen gehört. Patientenorganisationen und Zivilgesellschaft müssen sich also dazu verhalten.
Ein regulatorisches Ungleichgewicht
Der Nutzung steht eine ungeklärte Regulierung gegenüber. AI Act, DatenschutzDatenschutzDatenschutz beschreibt Maßnahmen zum Schutz personenbezogener Daten vor Missbrauch, unbefugtem Zugriff und Verlust. Er umfasst Gesetze, Richtlinien und Techniken, die Organisationen verpflichten, personenbezogene Daten sicher zu verwalten. Datenschutz ist entscheidend, um das Vertrauen der Öffentlichkeit zu wahren und die Rechte Einzelner zu schützen.-Grundverordnung und Medizinprodukteverordnung treffen aufeinander. Sprachmodelle können viele Anforderungen an Medizinprodukte schon von der Architektur her nur schwer erfüllen, etwa bei Falschinformationen, Nachvollziehbarkeit, Haftung und Bias. ChatGPTChatGPTChatGPT ist ein Chatbot, der von der Firma OpenAI entwickelt wurde. ChatGPT ahmt Unterhaltungen von Menschen nach. Im Hintergrund wird dafür ein KI Sprachmodell, ein sogenanntes Large Language Model (LLM) verwendet. Die Veröffentlichung von ChatGPT im Jahr 2022 hat große Wellen in der breiten Öffentlichkeit geschlagen und LLMs schlagartig populär gemacht. ChatGPT kann mit unterschiedlichen LLMs als Grundlage ausgeführt werden. Health ist deshalb in Europa nicht verfügbar. Das allgemeine ChatGPT lässt sich trotzdem jederzeit zu Gesundheitsthemen befragen. Die Anbieter verweisen im Kleingedruckten auf Fehlerhinweise und auf die Nutzungsbedingungen, die den medizinischen Einsatz ausschließen. Anbieter zertifizierter Medizinprodukte haben es dagegen sehr schwer, überhaupt an den Markt zu kommen. Ob wir das akzeptieren wollen, ist für Hofmann eine politische und gesellschaftliche Frage.
Was Menschen mit HIV uns erzählen
Im krankenkassengeförderten Projekt AI_dshilfe labs baut die Deutsche Aidshilfe KI-Kompetenzen in Selbsthilfe und Patientenorganisationen auf. Dazu gehört eine kleine partizipative Studie. Auf den „Positiven Begegnungen“, der größten Selbsthilfekonferenz zum Leben mit HIV in Europa, fanden drei Fokusgruppen statt. Sie behandelten KI in der psychosozialen Beratung, die Recherche von Gesundheitsinformationen und die automatische Transkription von Arztgesprächen. Die Auswertung läuft noch. Der erste Eindruck: Die Teilnehmenden waren gut informiert und wogen Chancen und Risiken differenziert ab.
Auffällig ist, wie stark KI-Nutzung als Kontrast zu Erfahrungen im Gesundheitswesen beschrieben wird. Zur Recherche sagte ein Teilnehmender der Fokusgruppe: „Wenn der Arzt die dritte Frage zum dritten Mal hört, dann rollt er irgendwann die Augen.“ Eine andere Person berichtete von Ablehnung durch Freunde, Zahnärzte und die Hausärztin nach ihrem HIV-Outing. Sie hat sich einen KI-Agenten gebaut, der für sie zur Seelsorger*in wurde: „Da ist mir die KI dann doch ein bisschen vorurteilsfreier, auch wenn ich weiß, sie denkt nicht, sie fühlt nicht.“
Hofmann betonte, dies seien Einzelstimmen und keine Verallgemeinerung. Sie zeigen aber, dass solche Nutzungsszenarien gelebte Praxis sind. Und sie erzählen ebenso viel über das Gesundheitswesen wie über KI.
Beim dritten Thema, der Transkription von Arztgesprächen, kommt es auf die technische Umsetzung an. Verbreitete Tools greifen oft auf große Sprachmodelle von US-Anbietern zurück, die Daten verlassen also die Praxis. Dazu sagte eine Teilnehmender: „Dann verschweige ich vielleicht Dinge, weil ich nicht will, dass Google das auch weiß.“
Die Gruppen forderten daher lokale Datenverarbeitung, die die Praxis der Ärzte nicht verlässt. Bei den bisherigen Angeboten ist das technisch meist nicht der Fall.
Diagnostik, Automation Bias, Deskilling
In der anschließenden Diskussion fragte ein Zuhörer nach KI als Diagnosehilfe und nach dem Automation Bias. Gemeint ist die Neigung von Fachleuten, sich an einem maschinellen Vorschlag zu orientieren. Hofmann hält KI als Werkzeug etwa in der Bilderkennung grundsätzlich für sinnvoll. Er nannte aber mehrere Probleme: Datengrundlagen, die bestimmte Gruppen unterrepräsentieren, etwa dunkle Haut beim Hautkrebs-Screening, das ärztliche Selbstverständnis im Umgang mit Vorschlägen und das Deskilling. Werden Befunde vorsortiert, sehen junge Ärzt*innen weniger einfache Fälle. Dann ist unklar, wie sie lernen, die komplizierten zu beurteilen.
Fazit: KI als Spiegel
Kann man mit KI also über alles reden? Die Menschen tun dies bereits – aus Neugier, aus Bequemlichkeit und manchmal, weil sie sich im Gesundheitssystem nicht angenommen fühlen. Hofmanns Schlussgedanke: In der KI-Debatte geht es kaum um Technik, sondern um Erfahrungen, Erwartungen und Wünsche. KI wirkt damit wie ein Spiegel für Stärken und Defizite des Gesundheitswesens. Die Entwicklung ist zudem aktiv (mit-)gestaltbar: Lokale Datenverarbeitung, Datensouveränität und eine patientenzentrierte Umsetzung sind Aushandlungsfragen für Politik und Gesellschaft. KI im Gesundheitswesen muss uns nicht überholen, wir können sie mitgestalten.
Weitere Informationen unter: www.aidshilfe.de/ki
