Sécurité : huit contrôles sur le chemin de chaque requête
La sécurité n’est pas déléguée au modèle d’IA. Chaque requête franchit des points de contrôle fixes avant d’atteindre un modèle et avant qu’une action ne soit exécutée dans une application.
Les contrôles de sécurité en détail
Chaque contrôle s’ouvre sur une courte description et un schéma.
Authentification et autorisationChaque action est exécutée au nom d’un utilisateur identifié.
Les utilisateurs se connectent avec le compte de l’entreprise et une authentification multifacteur (MFA). L’IA n’a aucune autorisation propre : ce qu’elle peut lire et faire dans une application est déterminé par les autorisations de l’utilisateur à l’origine de la requête. Lorsqu’un utilisateur n’a pas accès à un dossier, l’IA ne l’utilise pas non plus pour la réponse à cet utilisateur.
Classification des données en trois zonesLes données sont séparées selon leur sensibilité avant que l’IA ne les traite.
Chaque système raccordé est affecté à exactement une de trois zones. La zone détermine quel modèle d’IA peut traiter les données, et à quelles conditions. Les contenus confidentiels restent dans un système sur site séparé.
PseudonymisationLes noms restent sur site : le modèle d’IA voit des pseudonymes.
Avant qu’une requête ne quitte le réseau de l’entreprise, les données personnelles sont remplacées par des pseudonymes neutres. La table de correspondance qui résout chaque pseudonyme ne quitte jamais le réseau de l’entreprise.
Un chemin de sortie unique et chiffréUn chemin maîtrisé vers le modèle d’IA, établi uniquement de l’intérieur.
Entre le réseau de l’entreprise et un modèle d’IA dans le cloud, il existe un seul chemin : un proxy de sécurité entre deux pare-feu, puis un tunnel chiffré établi uniquement de l’intérieur.
Résidence des donnéesL’organisation détermine où ses données sont traitées.
L’IA peut fonctionner dans le cloud européen, sur site ou dans un centre de données au choix. Dans le cloud européen, les requêtes et les réponses ne sont pas transmises à l’éditeur du modèle d’IA et ne servent pas à entraîner des modèles d’IA.
Deux points de contrôle : passerelle IA et passerelle MCPLe modèle d’IA propose ; il n’agit pas de façon autonome.
Chaque action franchit un point de contrôle, et un point de contrôle est un logiciel classique aux règles fixes. La passerelle IA se place devant chaque modèle d’IA et inspecte les entrées et les sorties. La passerelle MCP se place devant les applications métier et n’autorise que les actions d’une liste d’autorisation.
Validation humaine pour les actions critiquesLes actions critiques exigent la validation d’une personne.
Les actions qui peuvent être exécutées sans validation sont définies à l’avance. Les actions à fort impact sont d’abord présentées à une personne et ne sont exécutées qu’après validation.
Journalisation d’audit, alertes et arrêt d’urgenceChaque étape est enregistrée et observée, et le système peut être arrêté.
Pour chaque étape, le journal d’audit consigne qui a émis la requête, quel outil a été utilisé et ce que le point de contrôle a décidé. Un comportement anormal déclenche une alerte. Le système peut être arrêté à trois niveaux : un seul connecteur, une zone entière ou l’ensemble du système.
Aligné sur les recommandations du BSI
La conception suit les recommandations publiées du BSI, l’Office fédéral allemand de la sécurité des technologies de l’information. Le fournisseur de cloud qui exploite le modèle d’IA dispose d’une attestation C5 du BSI.
Les chiffres et les documents à l’origine de ces pages : Sources.
Votre IA. Vos données. Dans l’UE.
Parlons d’un cas d’usage
20 minutes, sans engagement : la situation est décrite, et nous disons ce que l’IA peut réalistement faire – et ce qu’elle ne peut pas faire.
Ouvrir le formulaire
- contact@ingnetworks.com
- Téléphone
- +49 1515 3851511
- Adresse
- Ingenious Networks GmbH
Eisenacher Straße 6
10777 Berlin, Allemagne