Gegen den Wildwuchs: Ein Kontrollsystem sorgt für sicheren KI-Einsatz, ohne die Effizienz einzuschränken

Sichere KI

23.09.2025
Redaktion Ad2.0

Wer in Behörden, Gesundheitswesen oder kritischer Infrastruktur Verantwortung für die IT trägt, muss den Einsatz von Künstlicher Intelligenz gegenüber Gesetzgebern, Prüfstellen und der eigenen Organisation rechtfertigen. Wie aber gelingt der regelgerechte, kontrollierte, sichere Einsatz von KI, ohne deren Vorteile durch Überregulation wieder zu kassieren?

Die Chancen und Risiken der Künstlichen Intelligenz

Ob in Ministerien, Gesundheitsämtern, Energieversorgern oder Versicherungen – Künstliche Intelligenz hat allerorten ihren Weg in den Arbeitsalltag gefunden. Allzu häufig allerdings ungeregelt. IT-Abteilungen berichten von "Schatten-KI", bei denen Mitarbeitende Tools ohne Freigabe nutzen. Die unkontrollierte Verwendung externer KI-Dienste kann jedoch schnell zu Datenschutzvorfällen führen, etwa weil sensible Informationen in frei zugängliche Systeme hochgeladen wurden. Interne Audits belegen, dass dies keine Einzelfälle mehr sind und auch viele Beschäftigte kennen die Sorgen um die Sicherheit sensibler Daten.

Als Reaktion darauf verschärfen sich regulatorische Vorgaben. Der EU AI Act, der zwischen 2024 und 2026 schrittweise umgesetzt wird, fordert von öffentlichen und systemrelevanten Organisationen den lückenlosen Nachweis von Sicherheit, Nachvollziehbarkeit und Fairness ihrer KI-Systeme. Interne Compliance-Richtlinien greifen diese Anforderungen auf, um auf externe Audits vorbereitet zu sein.

Kurz: Die Nutzung von KI durch regulierte Organisationen ist ein heikler Spagat zwischen Innovationsschub und Risikokontrolle.

KI-Management mit Überblick und voller Kontrolle

Ein zentrales Management-System schafft hier Abhilfe. Es erlaubt Organisationen, den Einsatz von KI systematisch zu überwachen, zu analysieren und zu steuern. Ein Kontrollzentrum bildet dabei das Herzstück: Es registriert in Echtzeit, welche KI-Dienste genutzt werden, durch wen, zu welchem Zweck und zu welchen Kosten. So lassen sich nutzlose oder riskante Anwendungen identifizieren und abstellen. Zugleich geben diese datenbasierten Nutzungsanalysen Aufschluss über die Wirtschaftlichkeit und Effizienz einzelner KI-Anwendungen – die Grundlage für die weitere strategische Auswahl.

Ein KI-Management-System behält Budgetbegrenzungen im Blick, meldet Überschreitungen und verhindert unerwartete Kosten. Dank einer Benutzerverwaltung lässt sich der Zugang zu einzelnen Funktionen und Modulen individuell freischalten. Administratoren und Standardnutzer werden Rollen zugewiesen, neue Teammitglieder per Einladung eingebunden. Alle Zugriffe sind jederzeit nachvollziehbar.

Eine durchdachte KI-Management-Plattform bindet KI-Funktionen über leistungsstarke Schnittstellen zudem nahtlos an bestehende Programme an, Verwaltungssoftware etwa oder Portale zur internen Kommunikation. Wollen Nutzer eigene Schnittstellen ergänzen, sorgt das System für die Wahrung der Kontrollstandards.

"Sichere KI für regulierte Organisationen"

Ein System, das all die genannten Funktionen und mehr übernimmt, stellt die basebox GmbH bereit. Die auf die Sicherheit regulierter Organisationen spezialisierte Firma mit Sitz in Utting am Ammersee hat das erste standardisierte KI-Management-System für Behörden, Krankenhäuser und andere Institutionen mit hohen Compliance-Anforderungen entwickelt. basebox arbeitet im On-Premise-Betrieb für maximale Datenhoheit, über die Cloud für den sofortigen Einsatz oder als Hybridlösung. Jede Variante lässt sich vollständig in die bestehende IT-Infrastruktur integrieren.

Eine robuste Sicherheitsarchitektur zeichnet basebox aus: Authentifizierungsprotokolle wie OIDC und LDAP erfüllen höchste Standards und erlauben die reibungslose Anbindung an bestehende Systeme. Das Backend ist vollständig in der Programmiersprache Rust geschrieben, bekannt für Stabilität und Speicherintegrität. Die Plattform verarbeitet Daten ausschließlich lokal und schließt ihre Verwendung zu Trainingszwecken selbstredend aus. Sämtliche Übertragungen erfolgen verschlüsselt nach TLS 1.2/1.3, alle Daten verbleiben innerhalb der Organisation. Eingabeaufforderungen und Gespräche werden nicht gespeichert. Dieses "Zero-Retention-Prinzip" und die durchgängige DSGVO-Konformität sichern die Einhaltung europäischer Datenschutzstandards.

Seine Software unterzieht basebox regelmäßig dem Härtefall: Penetrationstests durch externe Experten, permanente Schwachstellenanalysen und die sofortige Behebung von Sicherheitslücken sind selbstverständlich. Die Weiterentwicklung der Plattform untersteht festgelegten Standards. Alle Mitarbeitenden arbeiten auf geschützten Endgeräten und durchlaufen regelmäßig Sicherheitsschulungen. Interne Audits prüfen fortlaufend die Einhaltung aller Vorschriften. Derzeit bereitet basebox eine ISO-27001-Zertifizierung vor und implementiert ein vollumfängliches Informationssicherheits-Managementsystem (ISMS). Ziel ist ein kontinuierlich wachsendes Sicherheitsframework, das mit neuen Bedrohungen Schritt hält.

René Herzer, Gründer von basebox, begründet diesen beachtlichen Aufwand so: "In regulierten Branchen erleben wir einen fundamentalen Wandel. Was früher als technische Innovation gefeiert wurde, muss heute den strengsten Compliance-Standards standhalten. KI-Entscheidungen müssen nachvollziehbar sein. Regulatoren und Kunden haben das Recht zu verstehen, warum eine KI eine bestimmte Empfehlung ausspricht. Bias-Kontrolle wird zur Pflicht, Diskriminierung durch Algorithmen ist rechtlich riskant. Wir müssen aktiv sicherstellen, dass KI-Systeme fair und unvoreingenommen arbeiten. Audit-Trails für autonome Systeme sind unverzichtbar. Jede Entscheidung muss dokumentiert und nachprüfbar sein. Bei basebox sehen wir diese Entwicklung als Chance: Compliance-konforme KI ist nicht nur sicherer – sie ist auch vertrauenswürdiger und damit langfristig erfolgreicher."

Erste Organisationen haben sich bereits für basebox entschieden: Das Klinikum Nürnberg nutzt das System ebenso wie das Berliner Johannesstift und die Krankenkasse Pronova BKK. Sie alle profitieren von der Sicherheit einer Plattform, die speziell für ihre Anforderungen entwickelt wurde.

Hinter basebox steht ein Team aus erfahrenen Fachleuten für KI, IT-Sicherheit und Unternehmenssoftware. Es vereint technologisches Know-how mit praktischer Expertise aus regulierten Branchen. Das Ziel: ein Management-System für Künstliche Intelligenz, das sich nahtlos integrieren lässt, regulatorische Anforderungen erfüllt und den verantwortungsvollen Einsatz von KI unterstützt.