La seguridad en la inteligencia artificial ha sido el centro del debate público durante el último mes, con ejecutivos y fundadores de algunas de las compañías más relevantes en este ámbito alertando sobre sus posibles riesgos. Esta cuestión fue uno de los temas estrella durante el evento anual de Salesforce, Dreamforce 2026.
El CEO de Salesforce, Marc Benioff, compartió escenario con Jensen Huang, CEO de Nvidia, y Dario Amodei, cofundador de Anthropic. Durante la charla, abordaron el estado actual de la inteligencia artificial y las propuestas de Salesforce en este campo, poniendo especial énfasis en la seguridad y la integración tecnológica.
Ross Kelly, editor de noticias y análisis de ITPro, se unió en directo desde San Francisco para comentar en profundidad sobre la seguridad en IA, el lanzamiento de Claudeforce, el modelo Koa y otros avances presentados en Dreamforce. 
Principales puntos destacados
Uno de los desarrollos más relevantes anunciados fue Claudeforce, una integración profunda del modelo Claude dentro de todo el ecosistema de productos de Salesforce. Además, Salesforce presentó nuevos plugins específicamente diseñados para Claude, con la intención de expandir sus funcionalidades y aplicabilidad.
Durante el evento, la mención a la seguridad en IA fue recibida con gran atención por parte del público y la prensa. No solo Dario Amodei abordó el tema, sino que Jensen Huang también enfatizó la responsabilidad que tienen los desarrolladores de modelos para ralentizar su despliegue si fuera necesario y garantizar que el avance tecnológico no ponga en riesgo a los usuarios ni al sector.
Marc Benioff, en declaraciones posteriores al escenario principal, destacó que la responsabilidad recae en las compañías que desarrollan estos modelos, señalando que no pueden permitirse ignorar los riesgos inherentes. Insistió en la necesidad de crear entornos de prueba sólidos y bien diseñados que eviten incidentes como el sufrido recientemente por Hugging Face, que puso en jaque la seguridad de ciertos sistemas IA.
El lanzamiento del modelo Koa, fruto de la colaboración entre Salesforce y Nvidia, marca un nuevo hito en el desarrollo de una inteligencia artificial dedicada a la gestión y análisis de relaciones con clientes (CRM). Este modelo está diseñado para potenciar las capacidades de razonamiento específicas en entornos comerciales, apoyando la toma de decisiones y la personalización de servicios.
En definitiva, Dreamforce 2026 reflejó que la seguridad en la inteligencia artificial se ha convertido en una de las principales preocupaciones y desafíos para la industria tecnológica, un campo donde la regulación, la ética y el desarrollo responsable están ganando protagonismo tan rápido como la propia innovación.
