hiddenrows

Guías prácticas para trabajar con agentes de IA, con un laboratorio al final de cada una

última edición=16 de octubre · 24 piezas · 14 breves
regla=solo lo verificado como hecho
llamadas a un modelo por visita=0
Seguridad

Las tres condiciones que permiten robarte datos a través de un agente

Si tu agente lee contenido escrito por terceros, ve datos privados y puede mandar algo al exterior, cualquiera que escriba en ese contenido puede llevarse esos datos.

2 min de lectura publicado el 18 sept 2026

La idea

Simon Willison, un programador que lleva años documentando estas herramientas, bautizó en junio de 2025 la combinación peligrosa y el nombre se quedó: la trifecta letal. Son tres condiciones que se dan a la vez en el mismo agente —datos privados a la vista, contenido que escribe un tercero, y alguna forma de sacar información fuera—. Con dos de las tres no hay robo posible. Con las tres, basta con que alguien deje escrita una orden en una página, un correo o un ticket que el agente vaya a leer.

El fondo del asunto es que un modelo de lenguaje obedece las instrucciones que encuentra en lo que lee y no distingue con fiabilidad quién las escribió. A eso se le llama inyección de instrucciones. El centro británico de ciberseguridad lo explica sin adornos: no se parece a los ataques clásicos contra bases de datos, porque allí sí se pueden separar los datos de las órdenes y aquí no; es un riesgo que ningún producto elimina del todo.

Los datos que lo sostienen
  • S No es teoría. En junio de 2025 se documentó un fallo en el asistente de Microsoft 365 que permitía sacar información con un simple correo. Y en mayo de 2025, al conector oficial de GitHub le bastó con que alguien abriera una incidencia maliciosa en un proyecto público para que publicara datos de los proyectos privados del usuario.
  • S Meta publicó en octubre de 2025 una regla fácil de recordar: de tres —entrada que no controlas, datos sensibles, capacidad de cambiar cosas o comunicarse—, como máximo dos a la vez. Si de verdad hacen falta las tres, entonces hay una persona aprobando cada paso.
  • V En junio de 2025, investigadores de IBM, ETH, Google y Microsoft entre otros publicaron seis formas de romper la trifecta sin renunciar al agente: que dispare herramientas pero no llegue a leer lo que devuelven; que decida el plan entero antes de exponerse a nada ajeno; que reparta el trabajo sucio entre ayudantes que solo devuelven un resumen; que sea un segundo agente, sin permisos, el que toque el contenido no fiable; que escriba un programa y sea el programa, y no él, quien maneje los datos; y que sencillamente vea lo mínimo imprescindible.
  • V Google DeepMind llevó esa idea al extremo con CaMeL (mar-2025): separa las órdenes de los datos y resuelve el 77 % de las tareas de una prueba de seguridad, frente al 84 % sin ninguna defensa. Siete puntos de acierto por una garantía demostrable es, en muchos sitios, un buen cambio.
  • V Lo que no funciona es filtrar. Un trabajo de octubre de 2025 se saltó doce defensas publicadas con más de un 90 % de éxito adaptando el ataque a cada una. I Un filtro sube el listón al atacante ocasional; no sustituye a quitar una de las tres patas.
  • I Aplicado a esta web: el agente que lee internet para preparar la edición no tiene permiso para publicar. Lee uno, publica otro.
hiddenrows · proyecto personal de divulgación de Miguel Yepes Contenido divulgativo, puede contener errores · sin garantías · Aviso legal · Privacidad · llms.txt