Von unstrukturierten Support-E-Mails zur produktiven RAG Knowledge Base  

Mit zunehmender Verbreitung der gPlug-Produkte stieg das Volumen an Supportanfragen deutlich an. Viele Anfragen wiederholten sich oder bezogen sich auf bereits vorhandene Informationen aus früheren E-Mails, Dokumentationen oder der Webseite. 

Gleichzeitig lag dieses Wissen unstrukturiert in E-Mail-Postfächern vor und war nur mit erheblichem manuellem Aufwand nutzbar. Dies führte zu ineffizienten Prozessen und verlängerten Reaktionszeiten im Support. 

Der Datenschutz stellte eine weitere zentrale Herausforderung dar. Eine Verarbeitung der Daten ausserhalb der Schweiz ist ausgeschlossen. Anforderungen wie vollständige Datenhoheit, lokale Datenhaltung sowie die Vermeidung von Abhängigkeiten durch internationale Cloud-Anbieter mussten strikt eingehalten werden. 

Wir entwickelten eine KI-basierte Lösung auf Basis von Retrieval Augmented Generation (RAG), die vollständig in der Schweiz betrieben wird. 

Im Zentrum steht eine mehrstufige Pipeline zur automatisierten Aufbereitung historischer Support-E-Mails: 

• Extraktion der E-Mails aus dem Postfach 

• Verarbeitung durch ein Large Language Model (LLM) 

• Entfernung von personenbezogenen Daten und irrelevanten Inhalten (z.B. Signaturen) 

• Strukturierung jeder E-Mail in Frage-Antwort-Paare 

• Generierung kompakter Wissens-Snippets 

Die aufbereiteten Inhalte werden anschliessend in einer Vektordatenbank gespeichert und über das Open-Source Chat Interface Open WebUI zugänglich gemacht. Ergänzend fliessen Inhalte aus der technischen Dokumentation und der Webseite direkt in die Wissensbasis ein. 

Für die Nutzung stellten wir verschiedene vorkonfigurierte KI-Agenten bereit, darunter: 

• ein Q&A-Assistent zur schnellen Beantwortung von Supportfragen 

• ein E-Mail-Agent, der Antwortentwürfe für eingehende Anfragen generiert 

Die gesamte Modellinferenz erfolgt über Open-Source-LLMs, die bei einem Schweizer Anbieter betrieben werden, wodurch alle Datenschutzanforderungen konsequent eingehalten werden. 

Durch die Einführung der Lösung kann gPlug das in den E-Mails vorhandenes Wissen erstmals zentral und strukturiert nutzbar machen. 

Konkret ergeben sich folgende Benefits: 

• Deutlich reduzierter manueller Aufwand im Support 

• Schnellere und konsistentere Antworterstellung 

• Wiederverwendung von bestehendem Wissen über alle Kanäle hinweg 

• Hohe Qualität der Antworten durch kontextbasierte KI-Unterstützung 

• Vollständige Datenhoheit dank Hosting und Verarbeitung in der Schweiz 

• Einhaltung aller Datenschutzanforderungen sowie vollständige Unabhängigkeit vom US Cloud Act 

Der Support kann sich nun stärker auf komplexe Fragestellungen konzentrieren, während Standardanfragen effizient und teilautomatisiert abgewickelt werden.