Seguridad: ocho controles en el recorrido de cada solicitud
La seguridad no se delega en el modelo de IA. Cada solicitud pasa por puntos de control fijos antes de llegar a un modelo y antes de que se ejecute cualquier acción en una aplicación.
Los controles de seguridad en detalle
Cada control se despliega para mostrar una breve descripción y un diagrama.
Autenticación y autorizaciónCada acción se realiza en nombre de un usuario identificado.
Los usuarios acceden con su cuenta corporativa y autenticación multifactor (MFA). La IA no tiene permisos propios: lo que puede leer y hacer en una aplicación depende de los permisos del usuario que realiza la solicitud. Si un usuario no tiene acceso a una carpeta, la IA tampoco la utiliza para responderle.
Clasificación de datos en tres zonasLos datos se separan según su sensibilidad antes de que la IA los trate.
Cada sistema conectado se asigna exactamente a una de las tres zonas. La zona determina qué modelo de IA puede tratar los datos y en qué condiciones. El contenido confidencial permanece en un sistema on-premise separado.
SeudonimizaciónLos nombres permanecen on-premise: el modelo de IA ve seudónimos.
Antes de que una solicitud salga de la red corporativa, los datos personales se sustituyen por seudónimos neutros. La tabla de correspondencias que permite identificar a quién corresponde cada seudónimo nunca sale de la red corporativa.
Una única vía de salida cifradaUna vía controlada hacia el modelo de IA, iniciada únicamente desde el interior.
Entre la red corporativa y un modelo de IA en la nube existe exactamente una vía: un proxy de seguridad entre dos firewalls, seguido de un túnel cifrado que se inicia únicamente desde el interior.
Residencia de los datosLa organización determina dónde se tratan sus datos.
La IA puede ejecutarse en la nube de la UE, on-premise o en un centro de datos de su elección. En la nube de la UE, las solicitudes y las respuestas no se comparten con el proveedor del modelo ni se utilizan para entrenar modelos de IA.
Dos puntos de control: AI Gateway y MCP GatewayEl modelo de IA propone; no actúa de forma autónoma.
Cada acción pasa por un punto de control, que es software convencional con reglas fijas. El AI Gateway se sitúa ante cada modelo de IA e inspecciona las entradas y las salidas. El MCP Gateway se sitúa ante las aplicaciones empresariales y solo permite acciones incluidas en una lista de acciones autorizadas.
Aprobación humana para acciones críticasLas acciones críticas requieren la aprobación de una persona.
Las acciones que pueden realizarse sin aprobación se definen de antemano. Las acciones de gran impacto se presentan primero a una persona y solo se ejecutan tras su aprobación.
Registro de auditoría, alertas y parada de emergenciaCada paso se registra y supervisa, y el sistema se puede detener.
Para cada paso, el registro de auditoría recoge quién realizó la solicitud, qué herramienta se utilizó y qué decidió el punto de control. Un comportamiento anómalo genera una alerta. El sistema se puede detener en tres niveles: un conector, una zona completa o todo el sistema.
Conforme a las directrices del BSI
El diseño sigue las directrices publicadas por el BSI, la Oficina Federal Alemana de Seguridad de la Información. El proveedor de nube que ejecuta el modelo de IA dispone de una atestación C5 del BSI.
Las cifras y los documentos en los que se basan estas páginas: Fuentes.
Su IA. Sus datos. En la UE.
Comente un caso de uso con nosotros
20 minutos, sin compromiso: usted nos describe la situación y le explicamos qué puede hacer la IA de forma realista y qué no.
Abrir el formulario
- Correo electrónico
- contact@ingnetworks.com
- Teléfono
- +49 1515 3851511
- Dirección
- Ingenious Networks GmbH
Eisenacher Straße 6
10777 Berlin, Germany