Ausgangssituation
Ein führender europäischer Logistikdienstleister stand vor einer strategischen Richtungsentscheidung: Sollte man für KI-Innovationen auf Cloud-APIs setzen oder eigene Open Source Large Language Models (LLMs) betreiben? Angesichts strenger Datenschutzanforderungen fehlte eine objektive Bewertung der verfügbaren Modelle sowie ein technisches Konzept für den sicheren Betrieb im eigenen Rechenzentrum.
Unsere Lösung
AMAI lieferte eine fundierte Entscheidungsgrundlage durch eine Kombination aus technischer Deep-Dive-Analyse und betriebswirtschaftlicher Bewertung:
- Marktanalyse: Umfassender Vergleich leistungsfähiger Open Source Modelle mit proprietären Cloud-Lösungen.
- Hosting-Konzepte: Entwicklung konkreter Architekturszenarien für den On-Premise-Betrieb, inklusive Hardware-Sizing (GPU-Cluster) und Inferenz-Optimierung.
- Kosten-Nutzen-Analyse: Detaillierte TCO-Berechnung (Total Cost of Ownership), die Investitionskosten für eigene Hardware gegen laufende Cloud-Gebühren abwog.
- Wissenstransfer: Strategischer Workshop zur Befähigung des internen Teams für zukünftige KI-Integrationen.
Ergebnisse & Business Impact
Das Unternehmen erhielt durch die strukturierte Aufbereitung aller technischen und wirtschaftlichen Faktoren die notwendige Klarheit für seine KI-Strategie. Das Unternehmen verfügt nun über einen detaillierten Fahrplan, der aufzeigt, wann der Eigenbetrieb von LLMs wirtschaftlich sinnvoll ist. Die erarbeiteten Hardware-Spezifikationen und Compliance-Analysen dienen als Blaupause für die sichere Skalierung von KI in den Kernprozessen der Logistik.
.svg)