Der Weg zur Souveränen KI

Künstliche Intelligenz ist längst Teil unseres Lebens, obwohl viele Menschen vor einigen Jahren noch misstrauisch waren und ungewiss war, wie sich KI entwickeln würde. Durch den rasanten Fortschritt der letzten Jahre, insbesondere den Hype um generative KI (z.B. ChatGPT), wachsen neben den Möglichkeiten auch die Abhängigkeit von globalen Technologiekonzernen und deren oft intransparenten Algorithmen.

Der Aufbau einer unabhängigen KI-Infrastruktur stellt sowohl Unternehmen, die öffentliche Verwaltung als auch das Gesundheitswesen vor erhebliche technische, wirtschaftliche und regulatorische Herausforderungen, bietet jedoch auch zahlreiche Chancen. Diese Akteure fragen sichzunehmend, wie sie KI und Automatisierungslösungen souverän und sicher betreiben können, ohne von großen Anbietern abhängig zu werden und gleichzeitig die Einstiegsrisiken zu minimieren.

Viele Unternehmen bieten leistungsfähige, leicht integrierbare KI-Modelle und Services an, die oft kosteneffizient erscheinen. Doch die Nutzung vieler dieser Angebote führt schnell zu Lock-In Effekten, die den Wechsel zwischen den KI-Lösungen und Modellen erschwert. Zudem sind viele Modelle Black-Box-Systeme, deren Berechnungs- und Entscheidungsprozesse schwer nachvollziehbar sind und teilweise den Verlust der Datenhoheit mit sich ziehen, wenn die Daten extern verarbeitet und gespeichert werden. Eine souveräne KI sollte daher Datenschutz-by-Design bieten, um Transparenz und die sichere Datenverarbeitung zu gewährleisten.

Neben den Aspekten der Intransparenz kommen der hohe Bedarf an Rechenkapazität und Energieverbrauch dazu. Denn eine Hochleistungs-KI erfordert immense Rechenleistung, die Unternehmen oftmals nicht selbst bereitstellen können. Ohne eigene Rechenzentren sind diese Unternehmen gezwungen, auf Cloud-Dienste zurückzugreifen, was neue Abhängigkeiten und Sicherheitsfragen mit sich bringen.

Die Implementierung einer souveränen KI in Ihrem Unternehmen erfordert eine sorgfältige Planung und strategische Vorgehensweise. In den folgenden drei Schritten erfahren Sie, wie Sie die notwendigen Grundlagen schaffen, die passenden Anwendungsfälle identifizieren und das richtige Personal einbinden können, um Ihre KI-Initiativen erfolgreich umzusetzen.

1.  Aufbau einer souveränen KI-Infrastruktur

   Die effiziente Nutzung von GPU-Ressourcen ist ein zentraler Erfolgsfaktor bei der Implementierung leistungsfähiger KI-Systeme. Eine durchdachte Infrastrukturstrategie kann nicht nur die Rechenkapazitäten optimal ausschöpfen, sondern auch Kosten und Datenschutzanforderungen berücksichtigen. Während Cloud-Lösungen flexible Skalierungsmöglichkeiten bieten, haben On-Premises-Server Vorteile hinsichtlich der Datenkontrolle. Besonders im Hinblick auf die DSGVO können lokale Rechenzentren eine sichere Alternative darstellen, die gleichzeitig erweiterbare Rechenleistung bereitstellt. Insbesondere für den öffentlichen Verwaltung und das Gesundheitswesen ist dies ein entscheidender Aspekt.

   Mit Hinblick auf die Anzahl der benötigten GPUs ist dies stark abhängig vom jeweiligen Anwendungsfall. Während das Training komplexer Modelle erhebliche Rechenkapazitäten erfordert, ist der Bedarf für die Inferenz, also der Prozess, bei dem ein trainiertes Modell Entscheidungen auf Basis neuer Eingaben trifft, deutlich geringer. Echtzeitanwendungen profitieren von GPUs mit hoher Speicherbandbreite, wohingegen Batch-Prozesse, also die Verarbeitung von Daten in Gruppen bzw. Stapeln, oft mit geringeren Ressourcen auskommen. Auch die Modellgröße spielt eine entscheidende Rolle. Große KI-Modelle wie GPT-4 benötigen mehrere GPUs, während kompaktere Architekturen oft mit einer einzelnen High-End-GPU effizient betrieben werden können.

   Bei der GPU-Wahl kommen üblicherweise Modelle mit hoher Speicherbandbreite und optimierten Rechenoperationen zum Einsatz – etwa die NVIDIA H100, die speziell für KI-Workloads entwickelt wurde.

   Neben der Modellgröße beeinflussen auch die Datenmenge an sich und die Batch Size also den Speicherbedarf erheblich. Größere Batches, also Bündel von Daten, erfordern mehr VRAM, was die Auswahl leistungsfähiger GPUs notwendig macht. Wichtige Spezifikationen umfassen neben dem verfügbaren Speicher auch die Unterstützung von optimierten Berechnungsverfahren wie FP16, TF32 oder INT8 sowie die Verfügbarkeit spezialisierter Recheneinheiten wie Tensor Cores, speziell entwickelte Recheneinheiten für Matrixoperationen, die große Matrizen in kurzer Zeit verarbeiten können. Durch Strategien wie Daten- oder Modellparallelismus können Workloads auf mehrere GPUs verteilt und Trainingszeiten somit erheblich reduziert werden.

   Doch nicht nur technische Faktoren spielen eine Rolle – auch wirtschaftliche Überlegungen sind entscheidend. Während Cloud-GPUs eine bedarfsgerechte Nutzung ermöglichen, können On-Premises-Lösungen bei langfristiger Nutzung kosteneffizienter sein, sofern die Infrastruktur entsprechend ausgelegt ist. Eine fundierte Bedarfsanalyse sollte daher die benötigten Rechenleistung, die zugrunde liegende Modellarchitektur und die Datengröße berücksichtigen. Dies geschieht idealerweise auf Basis etablierter Benchmarks.

2. Identifikation von Anwendungsfällen und Modellen für eine souveräne KI

   Nach Auswahl der passenden Infrastruktur gilt es, die spezifischen Anwendungsfälle präzise zu definieren, um den tatsächlichen Rechenbedarf zu ermitteln. Dies kann zum Beispiel durch eine Anforderungsanalyse oder Prozessaufnahme geschehen. Dabei wird herausgefunden, wo die KI zum Einsatz kommen soll, und welches Volumen diese verarbeiten wird. Diese könnte unter anderem wertvolle Daten Ihrer Fachabteilungen oder des Prozess- bzw. Qualitätsmanagements nutzen. In der Regel leiten sich dadurch wichtige Informationen zum Bedarf Ihrer KI an den jeweiligen Use Case ab. Die Anwendungsfälle können dabei sehr individuell sein, wie die Analyse und Automatisierung von Antragsprozessen in der klassischen öffentlichen Verwaltung, der klassischen Sachbearbeitung bei Krankenkassen, Diagnoseunterstützung von Ärzten im Gesundheitswesen oder die Verarbeitung von großen unstrukturierten Datensätzen bei bspw. Pharmakonzernen.

   Relevante Parameter sind hierbei die Anzahl der Modellparameter, die erforderlichen FLOPs, die Maßeinheit, die angibt, wie viele Gleitkomma-Operationen (z. B. Addition, Multiplikation) eine Hardware pro Sekunde ausführen kann, sowie die Modellarchitektur, beispielsweise Transformer-Netzwerke oder Convolutional Neural Networks (CNNs), die für parallele Verarbeitung optimiert sind.

   Neben proprietären KI-Modellen können dann auch Open-Source-Alternativen wie Metas Llama-Modelle eine attraktive Option bei der Umsetzung der Use Cases darstellen. Da der Markt der KI-Modelle sich rasant verändert, sollten Sie bei der Wahl Ihrer KI-Modelle auf Fachexperten zurückgreifen, um langfristig die beste Entscheidung zu treffen und immer up-to-date zu bleiben. Überlegen Sie sich daher genau, welche Use Cases Sie umgesetzt haben wollen und ermitteln Sie den Bedarf an Rechenleistung, um passende KI-Modelle auf Ihrer benötigten Infrastruktur betreiben zu können.  

3. Aufbau eines qualifizierten Teams für souveräne KI

   Schließlich erfordert der Aufbau einer leistungsfähigen KI-Infrastruktur nicht nur die richtige Hardware, sondern auch qualifizierte Fachkräfte. Insbesondere die öffentliche Verwaltung steht in diesem Aspekt mit immer älter werdendem Personal vor einer großen Herausforderung. Daher sollte von Anfang an frühzeitig mit der Etablierung interner Kompetenzzentren begonnen werden, um das Fachwissen intern zu bewahren. Diese sollen aber auch dafür sorgen, die Qualifizierung von Mitarbeitenden zu fördern, den internen Wissenstransfer zu sichern und Kooperationen innerhalb des Unternehmens ausbauen. So kann eine nachhaltige KI-Strategie geschaffen werden, die technologische Innovation mit wirtschaftlicher Effizienz und digitaler Selbstbestimmung verbindet.

Sie haben bereits erste Ideen für den Einsatz von souveräner KI, aber wissen nicht wie Sie starten sollen oder haben bereits gestartet, aber wissen nicht welche Modelle für Ihre Use Cases die richtigen sind? 

Als Arvato Systems setzen wir genau hier an. Wir begleiten unsere Kunden von Anfang an bei der Entscheidungswahl bezüglich Ihrer souveränen KI-Strategie und ermöglichen Kunden erste KI-Use Cases auf souveräner Infrastruktur aufzubauen. 

Dabei gehen wir auch auf regulatorische Vorgaben des AI Acts, DSGVO Vorgaben und individuellen Anforderungen unserer Kunden ein. Durch die Möglichkeiten unserer Rechenzentren und den langjährigen Erfahrungen unserer KI-Experten fusionieren wir Technologie-Know-how mit strategischen Ansätzen und sorgen für eine rundum-sorglos Betreuung Ihrer zukünftigen Systeme.

Unser Ziel ist es dabei nicht nur technologische Souveränität unserer zu Kunden zu erreichen, sondern auch langfristig wettbewerbsfähig und regelkonform künstliche Intelligenz für unsere Kunden bereitzustellen und nach neusten Standards permanent weiterzuentwickeln. Der Aufbau einer souveränen KI ist anspruchsvoll, aber mit dem richtigen Partner an der Seite eine strategische und wertvolle Investition in Ihre Zukunft.