Anthropic acelera las sesiones de Claude Code con hilos de mensajes sin reducir el coste en tokens

Anthropic introduce los hilos de mensajes en su API de Claude Code para acelerar las respuestas en sesiones largas, optimizando la carga de datos sin disminuir el consumo de tokens y costes asociados.

Anthropic ha lanzado una nueva función destinada a acelerar las sesiones prolongadas de Claude Code, disminuyendo la cantidad de datos de conversación que se envían repetidamente a su API. Esta mejora facilita que los desarrolladores obtengan respuestas más rápidas a medida que sus sesiones de codificación se alargan.

La función, conocida como hilos de mensajes, ya está disponible en beta pública para la API de Mensajes de Anthropic y se encuentra habilitada por defecto en «la mayoría» de los usuarios de Claude Code, según un artículo oficial de la compañía publicado recientemente.

Según Anthropic, esta característica ha logrado reducir el tiempo medio para generar el primer token de respuesta (TTFT, por sus siglas en inglés) en aproximadamente un 35% para las solicitudes de Claude Code que manejan entre 500.000 y un millón de tokens.

Patrocinado

Al estar integrada en la API de Mensajes, esta mejora no solo beneficia a Claude Code, sino también a desarrolladores que crean sus propios agentes de IA, especialmente aquellos que gestionan conversaciones muy largas, llamadas repetidas a herramientas y grandes volúmenes de datos.

Funcionamiento de los hilos de mensajes

Para comprender la novedad, es útil recordar cómo la API de Mensajes manejaba antes las conversaciones. Cada vez que un agente enviaba una petición a Claude, se incluía el historial completo de la conversación. Esto implicaba re-transmitir todos los mensajes y llamadas a herramientas, incluso si ya habían sido procesados anteriormente por la API.

Por ejemplo, un agente encargado de una tarea compleja de programación puede realizar cientos de llamadas a la API. Conforme lee archivos y realiza modificaciones en el código, el historial crece hasta superar los 500.000 tokens, lo que significa que en cada nueva llamada hay que enviar todo ese volumen de información otra vez. A continuación, la API debe validar y tokenizar estos datos para que Claude pueda comenzar a generar la respuesta. Este proceso repetitivo incrementa significativamente la latencia, especialmente en sesiones largas.

Los hilos de mensajes cambian esta dinámica al permitir que Anthropic almacene temporalmente el historial en sus servidores. La primera petición sigue enviando toda la conversación, incluyendo instrucciones y definiciones de herramientas. Sin embargo, las siguientes solo transmiten los mensajes nuevos junto con una referencia a la respuesta anterior.

De forma interna, Anthropic reconstruye el historial completo en sus servidores antes de pasarlo a Claude, evitando la necesidad de cargar constantemente la misma información. Es importante destacar que Claude procesa todo el historial en cada interacción: si hay 500.000 tokens, el modelo recibe ese contexto, aunque el cliente solo haya enviado los nuevos mensajes.

“Aunque cada petición se reduce con los hilos de mensajes, Claude sigue leyendo toda la conversación en cada turno, por lo que el consumo de tokens permanece igual.”

Por ello, esta innovación no disminuye directamente el coste de la API, ya que Anthropic sigue cobrando por todos los tokens que Claude procesa. No obstante, los desarrolladores pueden combinar esta función con la característica de caché de prompts, que reutiliza contenido procesado anteriormente a tarifas reducidas de tokens. Así, los hilos de mensajes disminuyen la latencia, mientras que el caché reduce los costes.

Anthropic señala varios casos prácticos donde los hilos de mensajes resultan especialmente útiles: agentes de codificación que van acumulando ediciones y resultados de herramientas, agentes que capturan capturas de pantalla de forma recurrente y aplicaciones que manejan grandes cantidades de documentos o imágenes. En estos casos, evitar la repetición de envíos reduce notablemente la cantidad de datos transmitidos.

Guillaume Lebedel, cofundador y CTO de StackOne, empresa especializada en infraestructura para agentes de IA, ejemplificó en LinkedIn el ahorro potencial de datos con una simulación para agentes que usan capturas de pantalla. Su cálculo supone que cada paso del agente añade una captura de 150 KB. Sin hilos de mensajes, la quincuagésima petición tendría que subir unos 7,5 MB acumulados. En cambio, con la nueva función sólo se subiría la última captura, 0,15 MB.

En total, la sesión de 50 pasos implicaría la subida de unos 191 MB sin la mejora, frente a unos 7,5 MB con hilos de mensajes, lo que supone una reducción aproximada de 25 veces en datos transmitidos.

Aunque estas cifras se basan en simulaciones y no en pruebas en vivo con la API, reflejan el gran beneficio para agentes que envían ficheros grandes con frecuencia. Lebedel prevé que los agentes de uso informático liderarán la adopción antes que los agentes de codificación, con una ampliación del uso general antes de que finalice el año.

“Mi apuesta es que los agentes que interactúan con ordenadores lo adopten antes que los de programación, ya que el envío de capturas en cada paso es lo que más sobrecarga genera.”

Implementación y uso de los hilos de mensajes

Anthropic ha añadido un nuevo parámetro llamado thread a la API de Mensajes para activar esta funcionalidad. La petición inicial debe incluir thread={"type": "create"}, junto con el historial completo y cualquier instrucción o herramienta relevante.

Las solicitudes siguientes usan thread={"type": "continue", "previous_message_id": first.id}, donde first.id es la identificación de la respuesta inicial. Estas llamadas solo transmiten los mensajes nuevos, ya que la API conserva el historial y las definiciones previas.

Como esta característica está en fase beta, los desarrolladores que hagan peticiones directas deben incluir el encabezado anthropic-beta con el valor message-threads-2026-08-12. En el SDK de Python, esto se configura con betas=["message-threads-2026-08-12"].

Para facilitar la gestión, Anthropic ofrece un asistente de hilos en su SDK, que maneja automáticamente el historial y los parámetros necesarios. En Python, se crea un cliente con client = anthropic.Anthropic(), luego se inicia el hilo con client.beta.messages.thread(), pasando opciones como el modelo, el límite de tokens y el sistema de instrucciones.

Para enviar mensajes, basta con usar thread.send(). Este asistente automatiza la creación y continuación del hilo, gestionando localmente la conversación y añadiendo los encabezados beta requeridos.

Limitaciones y consideraciones sobre la expiración

Una restricción importante es que los hilos expiran tras cinco minutos de inactividad. Esto ha generado críticas entre usuarios que consideran que un periodo tan breve limita la utilidad del sistema para sesiones largas o pausas breves.

“Cinco minutos en la máquina de café y el hilo expira.”

Pese a esta limitación, el impacto no es tan grave como parece. Si un desarrollador se ausenta y el hilo expira, el SDK volverá a enviar el historial para crear un hilo nuevo, aunque el primer mensaje tras la pausa puede tardar más de lo habitual. En general, la sesión continúa sin perder contexto.

En escenarios donde el agente realiza llamadas frecuentes, cada interacción extiende automáticamente el tiempo de expiración, permitiendo mantener el hilo activo durante tareas prolongadas.

Los desarrolladores que gestionan los hilos manualmente deben manejar la expiración por sí mismos, ya que intentar continuar un hilo caducado devuelve un error 404 y obliga a reenviar todo el historial para iniciar un nuevo hilo.

Anthropic asegura que el contenido de los hilos se cifra y almacena temporalmente en memoria del servidor sin guardarse en almacenamiento persistente. Los hilos, aunque expiran tras cinco minutos, pueden permanecer en memoria hasta una hora después de su último uso.

Actualmente, esta función no cumple con políticas de retención cero de datos ni con requisitos de HIPAA, lo que puede limitar su uso en entornos con reglas estrictas sobre manejo de datos. Tampoco son compatibles algunas funcionalidades avanzadas de gestión de contexto.

Los hilos de mensajes están disponibles en beta para todos los modelos Claude, incluyendo Claude Platform en AWS, Claude en Microsoft Foundry y modelos administrados por Anthropic en Google Cloud.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado