‍Von dezentraler Innovation zu strategischer KI-Exzellenz: Wie ein IT-Dienstleister im Finanzsektor KI-Initiativen erfolgreich koordiniert

Ausgangssituation: Unkoordinierte KI-Initiativen trotz hohem Innovationsdruck

Ein IT-Dienstleister im Finanzsektor sah sich mit einer typischen Herausforderung der digitalen Transformation konfrontiert: Künstliche Intelligenz war in aller Munde, und verschiedene Teams im Unternehmen experimentierten mit KI-Technologien. Jedoch fehlte es an zentraler Koordination und einheitlichen Vorgehensweisen.

Die zentralen Schmerzpunkte:

• Dezentrale Wildwuchs-Innovation: Viele Teams entwickelten parallel KI-Lösungen, ohne voneinander zu wissen oder von gemeinsamen Erfahrungen zu profitieren
• Fehlende Standardisierung: Keine einheitlichen Methoden zur Evaluierung und Entwicklung von KI-Use-Cases
• Ressourcenverschwendung: Teams "rannten in falsche Richtungen" und investierten Zeit in bereits gelöste oder unpraktikable Ansätze
• Mangelnde Expertise: Fehlende zentrale KI-Expertise führte zu suboptimalen technischen Entscheidungen
• Komplexe Datenschutzanforderungen: Als Banking-IT-Dienstleister unterlag das Unternehmen strengsten regulatorischen Anforderungen, die bei Cloud-basierten KI-Lösungen besondere Vorkehrungen erforderten

Business-Kontext und Dringlichkeit:

Der Kunde erkannte, dass KI kein kurzfristiger Hype, sondern eine strategische Notwendigkeit ist. Ohne eine koordinierte Vorgehensweise drohte das Unternehmen, im Wettbewerb zurückzufallen und wertvolle Ressourcen zu verschwenden. Gleichzeitig musste jede KI-Initiative höchste Sicherheits- und Datenschutzstandards erfüllen. Die Nutzung externer Cloud-KI-Services verschärfte diese Herausforderung zusätzlich.

Die zentrale Frage lautete: Wie schaffen wir eine zentrale Anlaufstelle für KI-Themen, die Innovation fördert, Standards setzt und gleichzeitig regulatorische Anforderungen erfüllt?

Unsere Lösung: Eine zentrale KI-Einheit als Katalysator für KI-Exzellenz

AMAI entwickelte gemeinsam mit dem Kunden eine zentrale KI-Einheit, ein internes KI-Labor, das als zentrale Anlaufstelle für alle KI-Initiativen im Unternehmen dient. Die Einheit koordiniert dezentrale Initiativen, entwickelt Prototypen und übergibt validierte Lösungen an Fachbereiche für die Produktionsumsetzung.

Der systematische Workflow:

1. Use Case Identifikation: Teams melden KI-Ideen bei der zentralen KI-Einheit an
2. Use Case Workshop: Strukturierte Evaluierung der Business-Relevanz und technischen Machbarkeit
3. Business Case Workshop: Detaillierte Bewertung von Kosten, Nutzen und Ressourcenbedarf
4. POC-Entwicklung: Schnelle Prototypen-Entwicklung mit modernen KI-Technologien
5. Übergabe an Fachbereiche: Transfer der validierten Lösung für die Produktionsentwicklung

Im Laufe des Projekts entwickelte sich die zentrale KI-Einheit von einer reinen Prototypen-Werkstatt zum Enablement-Partner, der Fachbereichs-Teams mit Expertise begleitet und befähigt, eigenständig KI-Lösungen zu entwickeln.

Hybride Cloud-Architektur mit Datenschutz-First-Ansatz

Die zentrale KI-Einheit nutzt eine hybride Architektur, die die Vorteile moderner Cloud-KI-Services mit den strengen Datenschutzanforderungen des Finanzsektors vereint. Der eingesetzte KI-Technologie-Stack umfasst Azure OpenAI mit GPT-4 und GPT-3.5 für fortgeschrittene NLP-Aufgaben, lokale LLMs (Llama-Modelle) für besonders sensitive Anwendungsfälle, LangGraph für die Entwicklung intelligenter Agenten sowie DataBricks als zentrale Machine Learning Plattform.

Die größte technische Herausforderung war die Vereinbarkeit von Cloud-KI-Services mit den Datenschutz-Anforderungen des Finanzsektors. Das Team entwickelte daher einen mehrstufigen Anonymisierungsservice, der sensitive Daten lokal verarbeitet, bevor sie an Cloud-Dienste übertragen werden. Der Service erkennt und maskiert personenbezogene Daten wie Namen, E-Mail-Adressen und Adressen, ermöglicht reversible Anonymisierung für berechtigte Nutzer und schafft Transparenz durch dokumentierte Datenschutzprozesse. Dies erlaubt die Nutzung leistungsstarker Cloud-Modelle bei gleichzeitiger Einhaltung aller regulatorischen Anforderungen.

Zusätzlich wurde ein KI-Expertenrat etabliert, bestehend aus drei KI-Experten und drei Betriebsratsmitgliedern, der alle Datenzugänge für KI-Projekte genehmigt. Dieser einzigartige Governance-Ansatz gewährleistet verantwortungsvolle KI-Nutzung und schafft Vertrauen im Unternehmen.

Agenten-Architekturen und intelligente Automatisierung

Für komplexe Aufgaben wie die Code-Migration von Mainframe-Systemen entwickelte das Team intelligente Agenten-Architekturen mit LangGraph. Diese Agenten analysieren alten Code, treffen Architekturentscheidungen, generieren modernen Code und dokumentieren Unterschiede. Die Architektur kombiniert Cloud-Services für leistungsstarke, skalierbare Modelle mit On-Premise-Deployment für volle Datenkontrolle. Lokale LLMs dienen als Fallback für hochsensitive Daten.

Integration und Deployment

Alle Anwendungen werden containerisiert und auf einer unternehmensinternen OpenShift-Plattform deployed. Von Anfang an werden die Lösungen in verschiedenen Environments (Development, Test, Production) entwickelt, was schnelle Iteration in der POC-Phase, konsistente Deployments und einfache Übergabe an Fachbereiche ermöglicht.

Die Lösung folgt dem Prinzip Integration statt Standalone. KI-Funktionen werden direkt in bestehende Unternehmenstools integriert, anstatt separate Anwendungen zu schaffen. Dies erhöht die Akzeptanz und macht die Lösungen nachhaltiger.

Erfolgreiche Use Cases:

• Internes ChatGPT-Tool: Unternehmensweiter Zugang zu Large Language Models mit Datenschutz-Absicherung
• Ticket-Clustering und Kategorisierung: Automatische Klassifizierung von Support-Tickets zur Effizienzsteigerung
• Code-Migration-Lösungen: KI-gestützte Unterstützung bei der Ablösung von Mainframe-Systemen
• SharePoint-Chatbot: Intelligente Suche in Unternehmensdokumenten

Messbare Erfolge: Von Chaos zu Orchestrierung

Die zentrale KI-Einheit transformierte die KI-Landschaft des Unternehmens grundlegend:

Operative Exzellenz

• Erfolgreicher Launch eines internen ChatGPT-Tools mit großem Anklang bei Mitarbeitern, das heute das meistgenutzte KI-Tool im Unternehmen ist
• Mehrere erfolgreiche Projektübergaben an Fachbereiche, die nun eigenständig KI-Lösungen in Produktion bringen
• Reduzierung von Doppelarbeit durch zentrale Koordination und Knowledge-Sharing
• Beschleunigte Time-to-POC durch standardisierte Workflows und wiederverwendbare Komponenten

Regulatorische Compliance und Datenschutz

• 100% Datenschutz-Konformität durch lokale Anonymisierung vor Cloud-Nutzung
• Etablierung eines KI-Governance-Modells mit Expertenrat und Betriebsratsbeteiligung
• Transparente Datenzugriffsprozesse schaffen Vertrauen bei Mitarbeitern und Management
• Erfolgreiche Nutzung von Cloud-KI-Services trotz strengster regulatorischer Anforderungen

Technologische Innovation

• Migration von traditionellen ML-Ansätzen zu Large Language Models für NLP-Aufgaben
• Innovative Agenten-Architekturen für komplexe Automatisierungsaufgaben (z.B. Code-Migration)
• Hybrid-Cloud-Strategie als Best Practice für regulierte Branchen
• Container-native Entwicklung als Standard für alle KI-Projekte

Strategische Perspektive

• Von Prototypen zu Produkten: Mehrere Use Cases durchliefen den kompletten Zyklus vom POC bis zur Übergabe an Fachbereiche
• Aufbau interner KI-Kompetenz: Teams lernen von AMAI-Experten und entwickeln eigene Expertise
• Strategische Neuausrichtung: Von der reinen Prototypen-Entwicklung zum Enablement-Partner für das gesamte Unternehmen
• Messbarer ROI: Erfolg wird über Nutzerakzeptanz (Anzahl Nutzer des internen Sprachmodells) und initiierte Fachbereichs-Projekte gemessen