PoC für internen AI-Chatbot
Der ewb steht eine umfangreiche interne Wissensdatenbank zur Beantwortung von Kundenanfragen zur Verfügung – die Suche nach relevanten Informationen erfolgt jedoch noch manuell. Für Mitarbeitende im Kundendienst bedeutet dies einen hohen Zeitaufwand, die Qualität der Ergebnisse hängt zudem stark von individuellem Erfahrungs- und Wissensstand ab.
Wie könnte ein interner AI-Chatbot dies verbessern? Gemeinsam mit der ewb entwickelten wir einen Proof of Concept (PoC) dafür.
DIE HERAUSFORDERUNGEN
Die Herausforderung lag nicht im Fehlen von Informationen, sondern in deren effizienter Nutzung. Die Wissensbasis der ewb ist äusserst umfangreich, inhaltlich heterogen und unterschiedlich strukturiert.
Mitarbeitende im Kundendienst müssen deshalb aktuell relevante Inhalte identifizieren, korrekt interpretieren und in verständliche, kundenorientierte Antworten überführen. Dieser Prozess kostet Zeit und führt je nach Erfahrungsstand zu unterschiedlichen Resultaten.
Der geplante interne Chatbot sollte Anfragen inhaltlich verstehen, passende Wissensinhalte identifizieren und daraus qualitativ hochwertige Antwortvorschläge generieren. Ziel unseres Projekts war es, die technische Machbarkeit sowie den konkreten Mehrwert eines solchen Ansatzes realistisch zu evaluieren.
DIE HERAUSFORDERUNGEN
Die Herausforderung lag nicht im Fehlen von Informationen, sondern in deren effizienter Nutzung. Die Wissensbasis der ewb ist äusserst umfangreich, inhaltlich heterogen und unterschiedlich strukturiert.
Mitarbeitende im Kundendienst müssen deshalb aktuell relevante Inhalte identifizieren, korrekt interpretieren und in verständliche, kundenorientierte Antworten überführen. Dieser Prozess kostet Zeit und führt je nach Erfahrungsstand zu unterschiedlichen Resultaten.
Der geplante interne Chatbot sollte Anfragen inhaltlich verstehen, passende Wissensinhalte identifizieren und daraus qualitativ hochwertige Antwortvorschläge generieren. Ziel unseres Projekts war es, die technische Machbarkeit sowie den konkreten Mehrwert eines solchen Ansatzes realistisch zu evaluieren.
UNSER LÖSUNGSANSATZ
Wir setzten auf einen isolierten PoC auf Basis einer Retrieval-Augmented-Generation-Architektur.
Dafür teilten wir die vorhandenen Wissensinhalte in Textsegmente auf, erzeugten semantische Einbettungen und speicherten diese in einer Vektordatenbank. Parallel repräsentierten wir Nutzeranfragen ebenfalls semantisch, um inhaltlich passende Textstellen gezielt zu identifizieren.
Anschliessend stellten wir die relevanten Inhalte einem generativen Sprachmodell zur strukturierten und nachvollziehbaren Antworterstellung zur Verfügung.
Unser Fokus lag dabei bewusst auf der Qualität des Retrievals und der kontrollierten Nutzung bestehender Inhalte. Auf das Training eines eigenen Modells verzichteten wir dagegen. Der PoC wurde lokal und ohne Zugriff auf produktive Systeme umgesetzt.
UNSER LÖSUNGSANSATZ
Wir setzten auf einen isolierten PoC auf Basis einer Retrieval-Augmented-Generation-Architektur.
Dafür teilten wir die vorhandenen Wissensinhalte in Textsegmente auf, erzeugten semantische Einbettungen und speicherten diese in einer Vektordatenbank. Parallel repräsentierten wir Nutzeranfragen ebenfalls semantisch, um inhaltlich passende Textstellen gezielt zu identifizieren.
Anschliessend stellten wir die relevanten Inhalte einem generativen Sprachmodell zur strukturierten und nachvollziehbaren Antworterstellung zur Verfügung.
Unser Fokus lag dabei bewusst auf der Qualität des Retrievals und der kontrollierten Nutzung bestehender Inhalte. Auf das Training eines eigenen Modells verzichteten wir dagegen. Der PoC wurde lokal und ohne Zugriff auf produktive Systeme umgesetzt.
DAS ERGEBNIS
Der PoC zeigte klar: Ein Chatbot kann relevante Inhalte zuverlässig identifizieren und verständlich zusammenführen. Die Qualität der Antworten hängt jedoch stark von der Struktur, Konsistenz und Aktualität der zugrunde liegenden Dokumente ab. Durch iterative Testläufe und gezielte Anpassungen am Text-Splitting sowie an der Pipeline erzielten wir messbare Verbesserungen.
Der Chatbot kann den Kundendienst insbesondere bei komplexen oder seltenen Fragestellungen sowie beim Onboarding neuer Mitarbeitender unterstützen.
Eine produktive Einführung kann zusätzliches Effizienzpotenzial erschliessen. Dafür braucht es jedoch klare Governance-Regelungen, ein durchdachtes Betriebskonzept sowie eine saubere datenschutzrechtliche Einbettung.
DAS ERGEBNIS
Der PoC zeigte klar: Ein Chatbot kann relevante Inhalte zuverlässig identifizieren und verständlich zusammenführen. Die Qualität der Antworten hängt jedoch stark von der Struktur, Konsistenz und Aktualität der zugrunde liegenden Dokumente ab. Durch iterative Testläufe und gezielte Anpassungen am Text-Splitting sowie an der Pipeline erzielten wir messbare Verbesserungen.
Der Chatbot kann den Kundendienst insbesondere bei komplexen oder seltenen Fragestellungen sowie beim Onboarding neuer Mitarbeitender unterstützen.
Eine produktive Einführung kann zusätzliches Effizienzpotenzial erschliessen. Dafür braucht es jedoch klare Governance-Regelungen, ein durchdachtes Betriebskonzept sowie eine saubere datenschutzrechtliche Einbettung.
ÜBER EWB
Energie Wasser Bern (EWB) ist ein selbständiges, öffentlich-rechtliches Unternehmen der Stadt Bern und eines der fünf grössten städtischen Energieversorgungsunternehmen der Schweiz mit rund 680 Mitarbeitenden.
Zu den Kunden zählen rund 70’000 Haushalte, 8’000 kleine und mittlere Unternehmen sowie 100 Grosskunden. Das Unternehmen stellt die Versorgung der Stadt Bern und der umliegenden Gemeinden mit Strom, Fernwärme, Erdgas, Biogas und Wasser sicher, verwertet Kehricht zu Energie und bietet Dienstleistungen im Bereich der Elektromobilität und Eigenverbrauchslösungen an.
SIE MÖCHTEN MEHR ERFAHREN?
SIE MÖCHTEN MEHR ERFAHREN?
IHRE ANSPRECHPARTNER ZUM PROJEKT
