Sicherheit: acht Kontrollen auf dem Weg jeder Anfrage
Sicherheit wird nicht dem KI-Modell überlassen. Jede Anfrage passiert feste Kontrollpunkte, bevor sie ein Modell erreicht und bevor eine Aktion in einer Anwendung ausgeführt wird.
Die Sicherheitskontrollen im Einzelnen
Jede Kontrolle öffnet sich zu einer kurzen Beschreibung und einem Diagramm.
Authentifizierung und AutorisierungJede Aktion wird im Namen eines benannten Nutzers ausgeführt.
Nutzer melden sich mit dem Unternehmenskonto und Mehr-Faktor-Authentifizierung (MFA) an. Die KI hat keine eigenen Berechtigungen: Was sie in einer Anwendung lesen und tun darf, bestimmen die Berechtigungen des anfragenden Nutzers. Hat ein Nutzer keinen Zugriff auf einen Ordner, verwendet ihn die KI auch nicht für die Antwort an diesen Nutzer.
Datenklassifizierung in drei ZonenDaten werden nach Sensibilität getrennt, bevor die KI sie verarbeitet.
Jedes angebundene System ist genau einer von drei Zonen zugeordnet. Die Zone bestimmt, welches KI-Modell die Daten verarbeiten darf und unter welchen Bedingungen. Vertrauliche Inhalte bleiben in einem getrennten On-Premise-System.
PseudonymisierungNamen bleiben on-premise: Das KI-Modell sieht Pseudonyme.
Bevor eine Anfrage das Unternehmensnetz verlässt, werden personenbezogene Daten durch neutrale Pseudonyme ersetzt. Die Zuordnungstabelle, die jedes Pseudonym auflöst, verlässt das Unternehmensnetz nie.
Ein einziger verschlüsselter AusgangspfadEin kontrollierter Pfad zum KI-Modell, der nur von innen aufgebaut wird.
Zwischen dem Unternehmensnetz und einem KI-Modell in der Cloud gibt es genau einen Pfad: einen Sicherheitsproxy zwischen zwei Firewalls, danach einen verschlüsselten Tunnel, der nur von innen aufgebaut wird.
DatenresidenzDie Organisation bestimmt, wo ihre Daten verarbeitet werden.
Die KI kann in der EU-Cloud, on-premise oder in einem Rechenzentrum nach Wahl laufen. In der EU-Cloud werden Anfragen und Antworten nicht an den Hersteller des KI-Modells weitergegeben und nicht zum Training von KI-Modellen verwendet.
Zwei Kontrollpunkte: KI-Gateway und MCP-GatewayDas KI-Modell schlägt vor; es handelt nicht autonom.
Jede Aktion passiert einen Kontrollpunkt, und ein Kontrollpunkt ist herkömmliche Software mit festen Regeln. Das KI-Gateway steht vor jedem KI-Modell und prüft Eingaben und Ausgaben. Das MCP-Gateway steht vor den Geschäftsanwendungen und lässt nur Aktionen aus einer Positivliste zu.
Freigabe durch einen Menschen bei kritischen AktionenKritische Aktionen erfordern die Freigabe durch einen Menschen.
Welche Aktionen ohne Freigabe ausgeführt werden dürfen, ist vorab festgelegt. Aktionen mit hoher Auswirkung werden zuerst einem Menschen vorgelegt und erst nach der Freigabe ausgeführt.
Audit-Protokollierung, Alarmierung und NotabschaltungJeder Schritt wird aufgezeichnet und beobachtet, und das System lässt sich anhalten.
Für jeden Schritt hält das Audit-Protokoll fest, wer die Anfrage gestellt hat, welches Werkzeug genutzt wurde und was der Kontrollpunkt entschieden hat. Auffälliges Verhalten löst einen Alarm aus. Das System lässt sich auf drei Ebenen abschalten: ein einzelner Konnektor, eine ganze Zone oder das gesamte System.
An den Empfehlungen des BSI ausgerichtet
Der Entwurf folgt den veröffentlichten Empfehlungen des BSI, des Bundesamts für Sicherheit in der Informationstechnik. Der Cloud-Anbieter, der das KI-Modell betreibt, verfügt über ein C5-Testat des BSI.
Die Zahlen und Dokumente hinter diesen Seiten: Quellen.
Ihre KI. Ihre Daten. In der EU.
Einen Anwendungsfall mit uns besprechen
20 Minuten, unverbindlich: Die Situation wird geschildert, und wir sagen, was mit KI realistisch ist – und was nicht.
Formular öffnen
- contact@ingnetworks.com
- Telefon
- +49 1515 3851511
- Adresse
- Ingenious Networks GmbH
Eisenacher Straße 6
10777 Berlin