Seguridad y privacidad al trabajar con IA: la guía práctica que toda empresa necesita antes de empezar
Contenido
- Las nuevas superficies de riesgo que la IA introduce
- Clasificación de datos: el primer paso antes de cualquier herramienta
- Cómo revisar los términos de uso de proveedores de IA
- Prompt injection y manipulación de sistemas públicos
- Cuándo usar infraestructura propia vs nube compartida
- Trazabilidad y cumplimiento en sectores regulados
- Formación del equipo: la primera línea de defensa
- La política mínima de uso de IA para empresas medianas
Cuando una empresa adopta herramientas de IA sin una política de seguridad definida, no es que no tenga política: tiene la política por defecto de cada herramienta que el equipo usa, que puede ser muy distinta de lo que la empresa querría si lo hubiera decidido conscientemente. Los datos de clientes que un empleado bien intencionado pega en ChatGPT para generar una propuesta más rápido pueden terminar almacenados en los servidores del proveedor, usados para entrenamiento futuro del modelo, o expuestos si hay una brecha de seguridad. No por negligencia: por desconocimiento de las condiciones del servicio.
Las nuevas superficies de riesgo
La IA introduce riesgos que no existían en el stack tecnológico tradicional:
- Filtración de datos en prompts: cualquier información que se escribe en el chat de una herramienta externa está potencialmente accesible al proveedor bajo sus términos de servicio
- Almacenamiento de conversaciones: muchos proveedores retienen el historial de conversaciones por períodos definidos en sus políticas, a menos que se configure explícitamente lo contrario
- Salidas que contienen información sensible: un modelo puede reproducir en su respuesta fragmentos de datos que "vio" en el contexto de la conversación
- Prompt injection: sistemas de IA que procesan texto de fuentes externas pueden ser manipulados por instrucciones maliciosas embebidas en ese texto
- Dependencia de proveedor: si los flujos críticos del negocio dependen de un solo proveedor de IA, una interrupción o cambio de precio tiene impacto directo en la operación
Clasificación de datos: el punto de partida
Sin clasificación de datos, no hay política de privacidad que funcione en la práctica. La clasificación no necesita ser compleja para ser efectiva. Un sistema de tres niveles es suficiente para la mayoría de las empresas:
| Nivel | Descripción | Puede usarse con IA externa |
|---|---|---|
| Público | Información que ya es o podría ser pública: textos del sitio web, comunicados de prensa, contenido de blog | ✅ Sin restricciones |
| Interno | Información de uso interno sin datos personales ni estrategia confidencial: procedimientos, manuales, comunicaciones internas genéricas | ⚠️ Con discernimiento según el proveedor |
| Confidencial | Datos de clientes, contratos, estrategia, información financiera no pública, datos personales | ❌ Solo con infraestructura propia o proveedores con DPA firmado y opciones de privacidad configuradas |
Cómo revisar los términos de uso de proveedores
Antes de usar cualquier herramienta de IA con datos internos, tres preguntas son obligatorias:
- ¿Se usan mis datos para entrenar el modelo? En planes gratuitos o básicos, muchos proveedores sí lo hacen por defecto. En planes empresariales, normalmente puede desactivarse.
- ¿Por cuánto tiempo se retienen las conversaciones? Algunos proveedores retienen indefinidamente; otros permiten configurar retención cero o eliminación automática.
- ¿Hay un DPA (Data Processing Agreement) disponible? Para datos personales de ciudadanos europeos o colombianos, el DPA es un requisito legal, no opcional.
Esta revisión no tarda más de una hora y puede evitar incidentes que tarden semanas en resolverse.
Prompt injection: el riesgo en sistemas públicos
Cuando tu empresa tiene un chatbot o asistente de IA accesible públicamente — en la web, en WhatsApp, en cualquier canal —, ese sistema puede ser manipulado por usuarios malintencionados que intentan que el asistente ignore sus instrucciones originales, revele información del system prompt, o actúe fuera de sus límites definidos. Las medidas básicas de protección son: validación de entrada (filtrar inputs que parecen instrucciones de sistema), instrucciones explícitas de no revelar el prompt base, y monitoreo de conversaciones para detectar patrones de manipulación.
Infraestructura propia vs nube compartida
Para datos altamente sensibles o en sectores regulados (salud, finanzas, sector público), la opción de infraestructura propia —modelos alojados en los servidores de la empresa o en una nube privada dedicada— elimina los riesgos de filtración hacia terceros. El trade-off es costo y complejidad técnica: los modelos propios requieren mantenimiento, actualizaciones y capacidad de cómputo. Para muchas empresas, el punto medio es usar APIs de proveedores con opciones de privacidad empresarial activadas y DPA firmado, reservando la infraestructura propia solo para los flujos más sensibles.
La política mínima de uso de IA
Una política de uso de IA no necesita ser un documento de 50 páginas para ser efectiva. Los elementos mínimos que debe incluir:
- Qué herramientas están aprobadas para uso empresarial y para qué casos de uso
- La clasificación de datos y qué nivel puede usarse con qué tipo de herramienta
- El proceso para aprobar una nueva herramienta de IA antes de usarla con datos internos
- Quién es responsable de las integraciones de IA en producción
- Cómo reportar un incidente de seguridad relacionado con IA
Un documento de una o dos páginas con estos elementos, comunicado al equipo en una sesión de 30 minutos, ya es un avance enorme respecto a no tener política.
En MWS ayudamos a diseñar políticas de uso de IA, revisar las integraciones existentes y configurar los entornos con las medidas de privacidad correctas para tu sector. Sin tecnicismos innecesarios: una política que el equipo entiende y puede aplicar.
→ Solicita una revisión de seguridad IA para tu empresa
