Beim Espresso Talk des Civic Data Labs am 7. Mai hat Sebastian Goldhorn gemeinsam mit Dr. Denis Dalic von MI4People vor rund 30 Teilnehmenden erzählt, wie der Weg dorthin aussah – und was andere NGOs daraus mitnehmen können.
Ein Problem, das viele kennen…
Irgendwo in fast jeder Organisation passiert es gerade: Jemand gibt einen Klient*innennamen in ChatGPT ein. Nicht aus böser Absicht – sondern weil das Tool hilft, die Arbeit schneller geht und es schlicht keine offizielle Alternative gibt. Schattennutzung nennt man das. Und sie ist kaum zu stoppen, solange man nichts Besseres anbietet.
Bei Joblinge war es nicht anders. Die Organisation begleitet Jugendliche auf dem Weg in die Ausbildung – deutschlandweit, über mehrere rechtlich eigenständige regionale gGmbHs, mit rund 300 Mitarbeitenden. Viel Menschenarbeit, viel Nähe – und gleichzeitig viel Dokumentation. Berichte, Mails, interne Prozesse, Formulare für die öffentliche Hand. „KI kann unseren Impact wirklich steigern“, sagt Sebastian. „Wir können mehr machen, ohne mehr Ressourcen zu verbrauchen.“ Das Potenzial war klar. Das Problem auch: Wer mit sensiblen Daten arbeitet – und das tut Joblinge täglich – kann nicht einfach alles in ChatGPT tippen.
Also gab es Richtlinien und klare Ansagen: Das dürft ihr nicht, das dürft ihr nicht. Aber die Mitarbeitenden nutzten trotzdem weiterhin KI – nur eben über private Accounts, im Verborgenen, ohne Kontrolle darüber, wo die Daten landen.
Die Entscheidung für einen anderen Weg
Joblinge hat sich bewusst Zeit gelassen. „Wir haben uns erst mal zurückgelehnt und geschaut, wie sich der Markt entwickelt“, erklärt Sebastian. Kein blinder Hype, kein überstürzter Einstieg. Stattdessen: beobachten, lernen, auf den richtigen Moment warten. Als MI4People mit dem Angebot kam – ein selbst gehosteter Chatbot, DSGVO-konform, für NGOs erschwinglich – war dieser Moment gekommen.
Mit Microsoft Copilot und ChatGPT Enterprise hatte man sich vorher beschäftigt. Beide haben Lösungen, die datenschutzrechtlich vertretbar wären. Aber skalierbar? Für 300 Mitarbeitende, mit ständig wechselnden Teamzusammensetzungen, in einer Organisation ohne großes IT-Budget? Die Lizenzkosten allein wären ein Problem gewesen – ganz abgesehen davon, dass man sich in eine dauerhafte Abhängigkeit von einzelnen Anbietern begibt.
Drei Bausteine, eine funktionierende Lösung
Die technische Grundlage, die MI4People aufgesetzt hat, besteht aus drei Open-Source-Komponenten.
- Erstens Open WebUI als Oberfläche: Sie sieht fast aus wie ChatGPT, funktioniert ähnlich intuitiv – und ist für Nutzer*innen sofort vertraut.
- Zweitens Mistral als Sprachmodell. Mistral wurde in Frankreich entwickelt, fällt damit unter EU-Recht und trainiert nicht auf den Eingaben der Nutzenden.
- Drittens Hetzner Cloud als Serverinfrastruktur – mit Rechenzentrum in Deutschland, täglichen Backups und voller Kontrolle über die eigenen Daten.
Das Entscheidende: Alles läuft auf einem eigenen Server, den Joblinge selbst betreibt. Was hochgeladen wird, bleibt dort. Kein US-Unternehmen, kein AVV-Problem und keine Ungewissheit darüber, was mit den Daten passiert.
Für den Einstieg reicht ein Hetzner-Server für acht Euro im Monat. MI4People richtet die Infrastruktur initial ein, danach läuft die Wartung – anders als man vielleicht befürchten würde – ohne spezialisiertes IT-Team. „Das ist kein Hexenwerk“, betont Denis. „Man braucht dafür keine externe Agentur dauerhaft.“ Bezahlt wird nicht pro Lizenz und nicht pro Nutzer*in, sondern nur für das, was tatsächlich verbraucht wird: die sogenannten Token, also grob gesagt die Texte, die ins Modell rein- und rausgehen. Nach zwei Wochen Nutzung mit 30 Personen bei Joblinge: unter 30 Euro Gesamtkosten. Eine einzelne Microsoft-Copilot-Lizenz kostet rund 20 Euro – pro Person, pro Monat.
Was intern daraus geworden ist
Technisch funktioniert das System. Aber Technik allein reicht nicht. Das wissen Denis und Sebastian beide – und haben den Rollout entsprechend gestaltet. Das Modell heißt bei Joblinge jetzt „JobGPT“. Wer sich einloggt, sieht zwei Varianten: einen für schnelle Schreibaufgaben, einen für Analysen mit Webzugriff. Modellnamen, API-Schlüssel, technische Konfigurationen – alles unsichtbar. Die Kolleg*in, die einfach eine Mail umschreiben will, muss nicht wissen, welches Modell im Hintergrund läuft. Sie klicken, tippen und bekommen eine Antwort.
Den Rollout hat Joblinge bewusst langsam angegangen – als Change-Prozess, nicht als Tool-Einführung. Zuerst eine kleine Gruppe von 25 bis 30 Personen, die das System kennenlernt, Feedback gibt und intern als Multiplikatorinnen wirken kann. Was funktioniert? Wo gibt es Reibung? Welche Prompts nutzen die Kolleginnen immer wieder und könnten direkt ins System integriert werden? Diese Fragen werden gerade gesammelt, bevor das Tool für alle ausgerollt wird.
Parallel dazu baut Joblinge die KI-Governance auf. Richtlinien, die nicht nur sagen, was verboten ist, sondern auch, wer Entscheidungen trifft, wie mit Eskalationen umgegangen wird und welche Prozesse langfristig automatisiert werden könnten. „Das entwickeln wir nicht allein“, sagt Sebastian. Accenture und ein französisches Förderprogramm begleiten diesen Teil – gerade, weil es dabei nicht nur um den Chatbot geht, sondern um die Frage, wie KI langfristig in die Organisation eingebettet werden soll.
Was die Plattform wirklich kann
Open WebUI ist mehr als ein Chatbot-Frontend. Teams können eigene, abgeschlossene Arbeitsbereiche anlegen – bei Joblinge mit seinen rechtlich eigenständigen regionalen gGmbHs ein echter Gewinn. Jede Einheit bekommt ihren eigenen Bereich, entscheidet selbst, wer Zugriff hat, und kann eigene Wissensdatenbanken einbinden: Jahresberichte, interne Informationen, häufige Fragen zum Onboarding. Wer das Modell damit versorgt hat, muss sich beim Chatten nicht mehr erklären – der Kontext ist schon da.
Chats lassen sich teilen und gemeinsam bearbeiten. Wissen bleibt im Team, statt im persönlichen Verlauf zu verschwinden. Und wer mag, kann sogar eine interne Chatfunktion nutzen und KI direkt in ein Gespräch mit Kolleg*innen holen.
Für den Alltag – Mails umschreiben, Texte zusammenfassen, Onboarding-Fragen beantworten – reicht Mistral Small vollkommen aus. Es ist schnell, günstig, und macht das, was die meisten täglich brauchen. Für komplexere Aufgaben, längere Recherchen oder Projekte, die mehr Kontext brauchen, steht Mistral Medium bereit: mit Internetzugriff, mit mehr Nachdenken, aber immer noch zu sehr überschaubaren Kosten.
Fazit
Vom ersten Gespräch bis zum internen Launch dauerte es nur knapp zwei Monate. Mit Unterstützung von MI4People, aber ohne großes IT-Team, ohne externes Entwicklungsprojekt, ohne Riesenetat.
„KI löst nicht alles“, sagt Denis. „Nur weil man ein Tool ins Unternehmen bringt, wird nicht automatisch alles einfacher.“ Es kommt darauf an, die richtigen Leute mitzunehmen, in Phasen zu denken und nicht zu versuchen, alles auf einmal zu lösen. Wer damit anfängt, Mails schneller zu schreiben, ist schon einen Schritt weiter. Wer dann merkt, welche Prozesse sich wiederholen, kommt irgendwann zur Automatisierung. Und wer die Datenfrage von Anfang an ernst nimmt, muss sich keine Sorgen machen, dass irgendwann etwas schiefgeht.
Für Sebastian hat sich die anfängliche Skepsis in etwas anderes verwandelt. „Es ist gerade eine ziemlich spannende Reise“, sagt er. „Von: Wir sind vorsichtig – zu: Das macht eigentlich auch Spaß.“
Interesse an einer eigenen Lösung? MI4People berät und implementiert bei gemeinnützigen Organisationen eigenen KI-Projekten – mit einem geförderten Programm speziell für den dritten Sektor. Mehr erfahren: https://www.mi4people.org/kiiss
