Capsule Security Ltd., una empresa emergente especializada en la seguridad de la inteligencia artificial agente, ha dado un paso crucial para evitar comportamientos no deseados en sistemas de IA. Hoy han presentado un sistema de detección basado en dos modelos Nemotron de Nvidia, que han ajustado y perfeccionado de forma independiente. Este nuevo mecanismo, al que denominan «interruptor de emergencia para IA», tiene como objetivo prevenir acciones inesperadas o perjudiciales ejecutadas por agentes de inteligencia artificial.
El funcionamiento del sistema se basa en anticipar la acción que un agente de IA está a punto de realizar. Gracias a un análisis en tiempo real, el sistema puede evaluar la intención del agente justo antes de que ésta se materialice. Esta detección precoz permite que los clientes decidan si autorizan la acción, la bloquean o la marcan para un análisis posterior, aumentando así la seguridad y el control sobre las IA desplegadas.
La tecnología se apoya en los sofisticados modelos Nemotron de Nvidia, que están diseñados para procesar y comprender interacciones complejas y en contexto. Capsule Security ha personalizado estos modelos para adaptarlos específicamente a la tarea de monitorizar y regular la conducta de agentes autónomos de IA. Esta innovación responde a la creciente preocupación sobre los riesgos que pueden generar agentes inteligentes si ejecutan operaciones imprevistas que afecten a usuarios o sistemas críticos. 
Además, el sistema de Capsule permite a las organizaciones implementar un filtro de seguridad adicional que no solo detecta comportamientos sospechosos, sino que también reacciona ante ellos de forma automática o bajo supervisión humana. Este tipo de soluciones resulta esencial en entornos donde la confianza y la integridad de la inteligencia artificial son fundamentales para el funcionamiento seguro.
Con este avance, Capsule Security se posiciona como un referente en el ámbito de la ciberseguridad aplicada a la inteligencia artificial agente, ofreciendo herramientas que combinan la capacidad predictiva avanzada con la intervención inmediata.
