Gobernanza
Tendencia IA 2027. Seguridad en los datos y gobernanza tecnológica
· 5 min read · Fabián Almenara
La IA Segura ya no es una cosa que se mida por ROI. Es un deber. Se empieza a entender que la IA sin un buen dato no nos da la calidad que buscamos. Necesitamos cobernar el Dato y ahora ya no solo el dato sino gobernar la tecnología. Que OpenAI haya utilizado las investigaciones de dos matemáticos españoles para resolver el problema matemático ha disparado la alerta y la necesidad del gobierno perdido.
Seguridad y privacidad de los datos en IA: dos enfoques, una diferencia clara
En mi opinión, una de las tendencias de 2027 en IA será la seguridad y la privacidad de los datos. Os comparto dos casos que vi en el Congreso de IA de Granada, con una diferencia clara entre ellos.
Ha sido una semana llena de eventos en Granada y en mi agenda. Agotadora, pero cargada de aprendizaje, nuevos contactos y mucha tecnología. El congreso se ha celebrado una vez más y hay que decir que mejora año a año. Estuve en numerosas charlas, entre ellas las de David Galdrán, de Check Point, y Thomas Endres, de TNG Technology Consulting. Ambos mostraron cómo plantean una IA segura, con sistemas controlados y con el control de los datos como prioridad.
Check Point: una capa de protección sobre tu aplicación
Check Point ofrece una única API (AI Agent Guard) que se integra en cualquier aplicación o agente de IA. Revisa cada interacción para detectar ataques al prompt, fugas de datos y contenido inapropiado, y es tu aplicación la que decide si bloquea, enmascara o solo alerta. Funciona con cualquier LLM, se puede usar como servicio o desplegar en tu propio entorno, y permite empezar solo monitorizando y activar el bloqueo cuando se tiene confianza.
Es justo el camino que hemos seguido en Cubicup. Primero monitorizamos quién hace qué en nuestro sistema y, ahora que confiamos en él, el siguiente paso ha sido limitar el acceso y bloquear ciertas acciones.
TNG: una arquitectura completa bajo tu control
TNG propone proteger los agentes con varias capas de defensa, de dentro hacia fuera:
Un modelo abierto alojado en tu propia infraestructura.
Un filtro que revisa cada pregunta y cada respuesta.
Un entorno aislado por agente, con herramientas controladas y sin secretos dentro.
Una red cerrada por defecto, con un único proxy auditable.
Personas que validan los planes, las acciones irreversibles y los resultados.
Su planteamiento es claro: no depender de los grandes proveedores de modelos de lenguaje, sino tener sistemas que permitan cambiar de LLM o derivar a uno u otro según la tarea. Es una línea similar a la que seguimos en Cubicup con nuestra red propia de multiagentes que, spoiler, publicaré más pronto que tarde.
La diferencia
Está en el alcance. Check Point es una capa de protección que añades a tu aplicación. TNG es una arquitectura completa donde tú decides dónde viven tus datos y tus modelos. En el primer caso proteges lo que ya tienes, y en el segundo lo diseñas todo desde el principio con el control en tus manos.
Dos caminos válidos, con el mismo objetivo: que la IA sea una herramienta en la que se pueda confiar.
Puedes leer también la versión corta de esta publicación en LinkedIn.
#IA #Datos #Gobernanza