KI in der öffentlichen Verwaltung: Wie Behörden mit SUSE AI ihre digitale Souveränität stärken können

Der Einsatz von künstlicher Intelligenz (KI) eröffnet dem öffentlichen Sektor vielfältige Möglichkeiten, Prozesse zu beschleunigen und die Beschäftigten bei ihrer Arbeit zu entlasten. Verwaltungseinrichtungen müssen sich allerdings auch auf die Sicherheit der KI-Modelle verlassen können. Und sie müssen jederzeit nachvollziehen können, was mit ihren Daten passiert. Genau diese Anforderungen adressiert unsere neue Plattform SUSE AI.

SUSE AI macht KI für die öffentliche Verwaltung einfacher nutzbar und senkt die Hürden für den Aufbau selbstverwalteter KI-Plattformen. Anwender erhalten einen vollständigen Überblick darüber, wo und wie die KI eingesetzt wird und mit welchen Daten die Modelle trainiert werden. Diese Transparenz ist die Grundvoraussetzung für einen digital souveränen Umgang mit den neuen technologischen Möglichkeiten. Gleichzeitig bietet die Open Source-basierte Plattform eine hohe Flexibilität bei der Auswahl der einzelnen Tools und Komponenten. Dies hilft, Abhängigkeiten von wenigen Anbietern zu vermeiden und einer Monopolbildung in diesem neuen Marktumfeld entgegenzuwirken.

Typische Herausforderungen beim KI-Einsatz in Behörden

Einige Behörden in Bund, Ländern und Kommunen haben in den vergangenen Monaten bereits begonnen, erste Erfahrungen mit KI-Anwendungen zu sammeln. In Pilotprojekten helfen beispielsweise intelligente Chatbots dabei, Bürgeranfragen schneller zu beantworten. Andere KI-Tools unterstützen bei der Verarbeitung und Analyse großer Datenmengen sowie bei der Erstellung von Modellen und Prognosen. Auch für die Informationsrecherche und Entscheidungsvorbereitung in der öffentlichen Verwaltung werden KI-Technologien bereits erprobt.

Beim Übergang von der Experimentierphase in den produktiven Betrieb zeigt sich jedoch auch, dass die KI-Nutzung in Behörden mit einigen Herausforderungen verbunden ist: 

Mangelnde Kontrolle: Ein unkontrollierter Einsatz von KI kann zu einem ungewollten Abfluss sensibler Daten führen. Zudem besteht die Gefahr, dass die Trainingssets von KI-Modellen durch gezieltes „Data Poisoning“ manipuliert und zu falschen Entscheidungen verleitet werden.

Schatten-KI: Laut einer aktuellen Studie der Software AG nutzen derzeit mehr als die Hälfte aller Wissensarbeiter KI-Tools, die nicht von ihrer Organisation bereitgestellt werden. Diese „Schatten-KI“ stellt ein erhebliches Risiko für die IT-Sicherheit und Datenintegrität im öffentlichen Sektor dar.

Compliance-Risiken: Verwaltungseinrichtungen unterliegen strengen Datenschutz- und Transparenzvorschriften. Der Einsatz von KI gefährdet die Einhaltung dieser Regelungen, wenn die Modelle und die Datenverarbeitung nicht entsprechend kontrollierbar sind.

Vendor Lock-in und Kostenexplosion: Die starke Fokussierung auf KI-Technologien einzelner Anbieter führt häufig zu einseitigen Abhängigkeiten. Langfristig kann dieser Vendor Lock-In die Kosten für die öffentliche Verwaltung in die Höhe treiben und die Flexibilität bei zukünftigen Entscheidungen einschränken.

Die meisten aktuellen KI-Angebote auf dem Markt wurden nicht mit Blick auf die Sicherheits- und Datenschutzanforderungen in stark regulierten Branchen konzipiert. Erste IT-Organisationen in der öffentlichen Verwaltung haben daher begonnen, ihre eigenen KI-Lösungen zu bauen – ein mühsamer, komplexer und zeitaufwändiger Prozess. Um Organisationen diesen Schritt zu erleichtern, haben wir SUSE AI entwickelt. Die vollständig auf Open Source-Technologien basierende Plattform ermöglicht die einfache und sichere Bereitstellung eigener GenAI-Lösungen – ohne die Geschwindigkeit und Leistung der KI-Anwendungen zu beeinträchtigen. Nach einer Early Access-Phase wurde SUSE AI diese Woche auf der KubeCon North America 2024 in Salt Lake City offiziell vorgestellt.

SUSE AI bietet KI-Anwendern Sicherheit, Vertrauen und Kontrolle 

SUSE AI ist eine sichere, vertrauenswürdige Plattform für die Implementierung und Ausführung von generativer KI mit unterschiedlichen Anwendungen. SUSE AI wird als integrierte Cloud-native Lösung bereitgestellt und bietet durch seine flexible und modulare Architektur eine einfache Erweiterbarkeit. SUSE AI arbeitet mit den branchenführenden Large Language Models (LLMs) zusammen und hilft Organisationen gleichzeitig, die volle Kontrolle über ihre Daten zu behalten. So stellen wir unbeschränkte Wahlmöglichkeiten und volle digitale Souveränität sicher.

Die Datensicherheit hat dabei höchste Priorität. SUSE AI ist eingebettet in die ganzheitliche Sicherheitsstrategie von SUSE, die unter anderem zertifizierte Maßnahmen zum Schutz der Supply Chain Security umfasst. Eine wichtige Rolle für die Sicherheit der KI-Plattform spielen künftig auch unsere Lösungen für Confidential Computing. Dabei geht es darum, KI-Anwendungen in einer geschützten Umgebung auszuführen, um unberechtigte Zugriffe zu verhindern. Die Datenverarbeitung erfolgt verschlüsselt in einem Trusted Execution Environment (TEE), so dass ein Datenabfluss oder eine Manipulation von außen – etwa durch Data Poisoning – ausgeschlossen ist. 

Die drei Hauptvorteile von SUSE AI sind:

Secure by Design: SUSE AI entspricht höchsten Sicherheitsstandards durch Zertifizierungen auf Softwareebene und unterstützt Organisationen mit Zero-Trust-Tools, Templates und Playbooks bei der Einhaltung von Vorschriften. Mit der Plattform können Behörden beispielsweise sicherstellen, dass die Datenverarbeitung für KI-Anwendungen vollständig im eigenen Rechenzentrum stattfindet. Dadurch wird das Risiko von Datenschutzverletzungen minimiert. Das Common Criteria-zertifizierte Build-System von SUSE überprüft die Software regelmäßig auf Schwachstellen und sorgt für die Integrität aller Komponenten von SUSE AI. Darüber hinaus hat SUSE Maßnahmen zur schnellen Reaktion auf Sicherheitsvorfälle und zur Wiederherstellung implementiert.

Vertrauen auf allen Ebenen: Mit SUSE AI erhalten Organisationen eine zuverlässige Plattform, um vertrauenswürdige KI-Anwendungen bereitzustellen. Anwender können sich darauf verlassen, dass die Architektur der Plattform höchsten Sicherheitsanforderungen entspricht, dass die Ergebnisse korrekt generiert werden und dass die genutzten Daten – darunter möglicherweise auch personenbezogene Daten – geschützt bleiben. SUSE AI lässt sich flexibel in unterschiedlichen Umgebungen einsetzen – on-premises, in hybriden Strukturen, in der Cloud oder in abgeschotteten („air-gapped“) Umgebungen. So können Behörden den spezifischen Anforderungen digitaler Verwaltungsprozesse gerecht werden.

Flexibilität und Auswahl: SUSE AI bietet Organisationen eine sichere Plattform mit der Möglichkeit, ihre KI-Infrastruktur individuell anzupassen und zu optimieren. Sie können sich für Large Language Models (LLMs) ihrer Wahl entscheiden, ihre eigenen KI-Komponenten einbringen oder die vorkonfigurierten Tools und Services von SUSE AI nutzen. Damit bietet die Plattform für jeden Anwendungsfall eine verlässliche Lösung. Ganz gleich, welche Komponenten eine Organisation auswählt – sie profitiert beim Betrieb ihrer KI-Infrastruktur immer von Vorteilen wie vereinfachtem Cluster-Management und persistentem Storage.

SUSE AI ebnet der öffentlichen Verwaltung damit den Weg zu einem sicheren, verantwortungsvollen und digital souveränen Einsatz von KI-Technologien. Organisationen können so auch neue Anforderungen wie die Ziele des EU AI Act in Bezug auf Transparenz, Datenschutz, Überwachung und die risikobasierte Klassifizierung von KI-Systemen leichter erfüllen.

Möchten Sie mehr über SUSE AI erfahren? Alle Informationen zu der neuen Lösung finden Sie hier.