La IA Muse de Meta delega llamadas a negocios con ayuda humana sin avisar claramente

Meta activó un servicio experimental donde su inteligencia artificial Muse realiza llamadas a empresas, a veces con intervención directa de operadores humanos, generando polémica por falta de transparencia y posibles riesgos en la gestión de datos sensibles.

Meta comenzó la semana pasada una prueba interna con su inteligencia artificial Muse que permite a sus empleados realizar llamadas a negocios en su nombre. Según Reuters, este experimento se habilitó para la mitad de la plantilla, dejando abierta la posibilidad de que algunas comunicaciones telefónicas fueran atendidas o completadas por personas que trabajan desde centros de llamadas contratados por la empresa, sin que esto se comunicara claramente a los interlocutores de esas llamadas.

Entre los empleados de Meta que participaron en esta prueba se difundió la preocupación por la posibilidad de que datos confidenciales o información sensible compartida durante las llamadas pudiera permanecer al alcance de estos agentes humanos subcontratados, lo que implica riesgos en términos de privacidad y seguridad.

Ante la polémica, un alto ejecutivo de Meta reconoció que no informar adecuadamente de la participación de operadores humanos en las conversaciones fue un error de enfoque. En respuesta, la compañía decidió suspender temporalmente la función de «conserjería humana» dentro de Muse para revisar sus protocolos y garantizar mayor transparencia y protección de datos.

Patrocinado

El sistema Muse fue diseñado para facilitar a los empleados la gestión de tareas rutinarias, como reservar citas o realizar gestiones comerciales, a través de llamadas telefónicas automáticas o asistidas. Sin embargo, la implementación dejó patente la dificultad de equilibrar la automatización con la intervención humana, especialmente cuando no se informa correctamente a los consumidores con los que se interactúa.

El experimento ha generado un intenso debate en el sector tecnológico sobre las implicaciones éticas de utilizar agentes humanos para completar interacciones inicialmente iniciadas por inteligencia artificial sin consentimiento explícito, particularmente en el manejo de información personal o corporativa.

Meta ha anunciado que endurecerá sus políticas internas para que, en el futuro, cualquier contacto que incluya intervención humana sea comunicado transparencia y explícitamente a todas las partes implicadas, además de reforzar las directrices de confidencialidad y control de acceso a la información.

Este caso supone un nuevo episodio en la compleja relación entre inteligencia artificial y trabajo humano, abriendo la puerta a un análisis sobre responsabilidades, límites de privacidad y confianza en los sistemas que cada vez más integran ambos elementos para maximizar eficiencia.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado