La ideaUn agente trabaja leyendo: cuanto más avanza una sesión, más largo es el texto que arrastra delante, lo que en este oficio se llama su contexto. Parece que eso solo puede ayudar. Chroma, una empresa que fabrica almacenes de datos para estas herramientas, hizo una prueba limpia: dieciocho modelos, tareas de la misma dificultad y una sola cosa cambiando, la longitud del texto que tenían delante. El resultado se repitió en los dieciocho: cuanto más largo el texto, menos fiable la respuesta. En el oficio a esto se le llama context rot.
Hay una razón de fondo. Al doblar el texto, el modelo tiene que sopesar cuatro veces más relaciones entre palabras; y además, mientras aprendía, casi todo lo que leyó eran textos cortos. Por eso en Anthropic describen su trabajo como buscar el conjunto más pequeño posible de información útil para cada paso, no el más completo: eso es la ingeniería de contexto.