Executive Summary

Die Einführung eines Chatbots für den Support eines großen Versicherungsunternehmens hat die Effizienz und Geschwindigkeit beim Zugriff auf wichtige Dokumente und Informationen erheblich verbessert. Durch den Einsatz modernster Technologien und eine benutzerzentrierte Herangehensweise konnte eine Lösung entwickelt werden, die den spezifischen Anforderungen des Kunden gerecht wird.

Introduction

About the Client

Unser Kunde ist ein führendes Versicherungsunternehmen mit einer großen Anzahl an Mitarbeitern. Das Unternehmen bietet eine Vielzahl von Versicherungsprodukten und -dienstleistungen an und hat sich über die Jahre als zuverlässiger Partner im Versicherungssektor etabliert.

Wish

Der Kunde wollte einen Chatbot entwickeln, der den Support-Mitarbeitern hilft, schneller und effizienter auf die benötigten Dokumente und Informationen zuzugreifen.

Obstacle

Die größte Herausforderung bestand darin, das bestehende Knowledge Management System zu integrieren und sicherzustellen, dass der Chatbot präzise Antworten liefert und die Nutzer zu den richtigen Dokumenten führt.

Outcome

Durch die Implementierung eines RAG-Systems und die Nutzung einer Vektordatenbank konnte eine Lösung entwickelt werden, die die Anfragen der Mitarbeiter effizient bearbeitet und präzise Informationen liefert.

Plan

Ein robustes Backend mit FastAPI und ein benutzerfreundliches Frontend mit React wurden entwickelt. Die Integration von Langchain ermöglichte die schnelle Verarbeitung und Bereitstellung relevanter Informationen.

Challenges

Integration des bestehenden Knowledge Management Systems

• Problem: Die bestehenden Daten und Dokumente waren in einem umfangreichen Knowledge Management System verteilt, was die Suche nach spezifischen Informationen erschwerte.
• Lösung: Implementierung eines RAG-Systems (Retrieval-Augmented Generation) mit einer Vektordatenbank, um die Daten effizient zu spiegeln und zu verarbeiten.

Parsing unterschiedlicher Dokumenttypen

• Problem: Unterschiedliche Dokumenttypen wie Excel-Dateien erforderten spezifische Parsing-Strategien.
• Lösung: Entwicklung angepasster Parsing-Algorithmen und Festlegung optimaler Chunk Sizes und Overlaps zur effizienten Verarbeitung der Dokumente.

Nutzerfreundlichkeit und präzise Dokumentenverlinkung

• Problem: Nutzer mussten nicht nur Antworten erhalten, sondern auch präzise zu den relevanten Dokumenten geführt werden.
• Lösung: Implementierung eines robusten Filtersystems im Frontend, um erfahrenen Nutzern das gezielte Durchsuchen spezifischer Dokumente zu ermöglichen.

Serverless Architektur und Hosting-Kosten

• Problem: Die ursprüngliche Serverless-Architektur stieß an ihre Grenzen und die Hosting-Kosten für ein LLM-basiertes System waren höher als erwartet.
• Lösung: Umstellung auf eine robuste Backend-Architektur mit Python und FastAPI sowie eine sorgfältige Kostenkalkulation für die Hosting-Kosten.

Solutions Implemented

Exploration

• Ziel: Grenzen des Möglichen mit Generative AI explorieren und relevante Anwendungsfälle identifizieren.
• Ergebnis: Identifikation der effizientesten Anwendungsfälle für den Kunden.

Strategy

• Ziel: Entwicklung einer durchdachten AI-Strategie mit detaillierten Roadmaps.
• Ergebnis: Erstellung einer klaren Strategie und eines rechtlichen Rahmens für die erfolgreiche Implementierung.

Development

• Ziel: Transformation von Ideen in sichere, zielgerichtete AI-Lösungen.
• Ergebnis: Entwicklung eines robusten Chatbots, der die Effizienz der Support-Mitarbeiter steigert.

Empowerment

• Ziel: Ausstattung des Teams mit dem nötigen Wissen und den Fähigkeiten.
• Ergebnis: Durchführung von Schulungen und Workshops zur Nutzung der neuen Systeme.

Vorgehensweise

• Initialphase: Analyse und Spiegelung der bestehenden Daten in eine Vektordatenbank.
• Implementierungsphase: Entwicklung des Backends mit FastAPI und Integration von Langchain.
• Feinabstimmung: Anpassung der Parsing-Algorithmen und Implementierung des Filtersystems im Frontend.
• Testphase: Umfangreiche Tests und Feedback-Schleifen zur Optimierung der Nutzererfahrung.
• Launch: Erfolgreicher Rollout des Chatbots und kontinuierliche Überwachung der Systemleistung.

Result

Client Testimonials

"Der neue Chatbot hat unseren Arbeitsalltag erheblich erleichtert und ermöglicht es uns, schneller auf wichtige Informationen zuzugreifen." - Support-Mitarbeiter, Versicherung

Conclusion

Summary of Impact

Die generative AI-Transformation hat die Effizienz und Geschwindigkeit des Zugriffs auf wichtige Informationen erheblich verbessert, was zu einer deutlichen Steigerung der Produktivität geführt hat.

Future Outlook

Die nächsten Schritte umfassen die Skalierung der KI-Lösungen und die kontinuierliche Verbesserung der Systeme, um den Wettbewerbsvorteil zu halten und weiter auszubauen.

Strategic Recommendations

Continued Innovation

Ständige Verbesserungen und Innovationen zur Aufrechterhaltung des Wettbewerbsvorteils.

Scalability

Empfehlungen zur weiteren Skalierung der AI-Lösungen im gesamten Unternehmen.

‍