KI als Unterstützung, nicht als Ersatz
Civic Data Lab: Mara, Ihr schreibt, dass im Zentrum von KIA die Entwicklung eines Prototyps steht, der Beratende in ihrer täglichen Arbeit unterstützt, jedoch nicht ersetzt. Was bedeutet das?
Mara Stieler: Gerade in der schriftbasierten Online-Beratung, beispielsweise bei der bke-Onlineberatung, ist der Arbeitsalltag von langen E-Mail-Korrespondenzen und vielfach parallellaufenden Beratungen geprägt. Hier kann KI gezielt unterstützen, etwa durch die Bereitstellung themenbezogener Informationen, methodischer Hinweise oder durch Zusammenfassungen von Beratungsverläufen. Wir wollen, dass KI die Reflexionsprozesse unterstützt, aber nicht die Beratenden ersetzt. Es geht nicht um Standardantworten, sondern darum, dass Beratende die KI als eine Art unterstützende Kollegin nutzen können, die ihnen beispielsweise Hinweise gibt oder mit Strukturierungshilfen unterstützt.
Entwicklungsprozess und Datengrundlage
Civic Data Lab: Ihr habt den Entwicklungsprozess von KIA sehr stark praxisorientiert angelegt. Wie seid Ihr vorgegangen?
Mara Stieler: Bereits zu Beginn wurden 18 Beratende aus der bke-Onlineberatung in Interviews befragt. Ihre Visionen und Bedarfe flossen direkt in die Prototypenentwicklung ein. Die fünf häufigsten Bedarfe waren:
- Bereitstellung themenbezogener Informationen
- Zusammenfassungen und Aufbereitung von Beratungen
- Methodische Hinweise
- Hypothesenassistenz
- Analyse von blinden Flecken und Stereotypen
Die Vielfalt der genannten Visionen verdeutlicht, dass KI-Systeme aus Sicht der Befragten das Potenzial haben, ihre Arbeit in verschiedenen Bereichen zu erleichtern. Auch Bedenken der Beratenden und Anforderungen an KI-Systeme wurden in den Interviews besprochen. Die Ergebnisse der Vorbefragung waren für den weiteren Projektverlauf sehr wichtig.
Civic Data Lab: Wie seid Ihr dann weiter bei der Entwicklung eines leistungsfähigen KI-Systems vorgegangen und welche Daten habt Ihr als Grundlage verwendet?
Mara Stieler: Wir sind interdisziplinär und in Zusammenarbeit mit Praktiker*innen der bke-Onlineberatung vorgegangen. Mit Vorbefragung der Beratenden, einem Iterativer Prozess, fortlaufenden Anpassungen durch Testergebnisse aus Usability Testungen und simulierten Testberatungen. Das Trainingsmaterial haben wir aus vier verschiedenen Quellen gewonnen.. Aus der realistischen Beratungssimulationen, aus Best-Practice-Beispielen, aus anonymisierten echten Beratungsinteraktionen sowie synthetische Daten, die von der KI auf Basis bestehender Daten generiert wurden. Dabei war sehr wichtig, den Umgang mit den Daten intensiv zu reflektieren. Eine der zentralen Fragen ist, woher wir geeignete Trainingsdaten bekommen. Datenspenden, Simulationen und synthetische Daten helfen uns, ethische Standards einzuhalten und gleichzeitig die Qualität des Assistenzsystems sicherzustellen.
Iterative Testphasen und Ethikmanual
Civic Data Lab: Mara, Ihr habt im Projekt auf eine iterative Entwicklung mit mehreren Testphasen aufgesetzt. Was waren dabei Eure Schritte?
Mara Stieler: In der ersten Testphase standen Usability-Tests im Vordergrund. Dabei haben wir uns gefragt: Sind die Funktionen verständlich? Wie wird das System wahrgenommen? Die zweite Testphase sollte dann diese Erkenntnisse mit einer Tagebuchstudie vertiefen, in der Beratende über vier Wochen hinweg das System im Rahmen von simulierten Beratungen nutzten. Aktuell sind wir im letzten Projektjahr, in dem eine weitere Testphase stattfinden wird, in der wir noch den Prototypen in unterschiedlichen Beratungssettings erproben wollen. Und ein weiterer Grundstein des Projekts ist die ethische Reflexion. Ein speziell entwickeltes Ethikmanual, an dem wir arbeiten, soll in Zukunft Organisationen unterstützen, die KI gemeinwohlorientiert einsetzen wollen. Technisch ist vieles möglich, aber wir müssen bewusst entscheiden, wie wir KI einsetzen wollen. Unsere Aufgabe ist es, die Nutzung so zu gestalten, dass sie den Beratenden zur Seite steht.
Ausblick: KI für verschiedene Beratungsfelder
Civic Data Lab: Was ist Deiner Meinung nach die Pionierarbeit, die Ihr mit Eurem Projekt leistet?
Mara Stieler: KIA ist ein Pionierprojekt, weil es nicht nur Fachkräfte der schriftbasierten psychosoziale Beratung unterstützen kann, sondern auch in andere Handlungsfeldern übertragbar ist. Bis Ende 2025 soll der Prototyp finalisiert und der reale Nutzen empirisch belegt sein. Außerdem wird auf Basis der Projektergebnisse ein Leitfaden zum gemeinwohlorientierten Einsatz von KI-Systemen in der psychosozialen Beratung entwickelt und die umfangreichen ethischen Abwägungen werden in einem Ethikmanual aufbereitet sein. Das alles soll vor allem Organisationen zur Verfügung stehen, die den gemeinwohlorientierten KI-Einsatz anstreben.
Civic Data Lab: Mara, vielen Dank für das Gespräch! Darf ich Dich am Schluss noch um ein paar Sätze als kurzes Resumee bitten?
Mara Stieler: Für mich zeigt das Projekt, dass eine KI-gestützte Assistenz dazu beitragen kann, Arbeitsprozesse effizienter zu gestalten und Fachkräfte in fachlichen Reflexionsprozessen zu unterstützen, ohne die menschliche und fachliche Expertise zu ersetzen. Die Beratenden müssen und sollen die zentrale Instanz bleiben – mit KI als hilfreicher Unterstützung an ihrer Seite.
