Microsoft ha tomado la decisión de restringir temporalmente el acceso de sus empleados a Claude Fable 5, el nuevo modelo de inteligencia artificial desarrollado por Anthropic, debido a inquietudes sobre cómo la empresa maneja y almacena los datos de los usuarios.
Según lo publicado por The Verge, Microsoft ha eliminado temporalmente a Claude Fable 5 del selector de modelos disponible para sus trabajadores en la versión interna de GitHub Copilot. A pesar de esta medida, otros modelos de la familia Claude permanecen accesibles bajo la política conocida como Retención Cero de Datos (Zero Data Retention o ZDR).
Esta decisión se origina a partir de las preocupaciones planteadas por el equipo legal de Microsoft respecto al tratamiento de información confidencial y de datos corporativos que podrían ser expuestos por los empleados al utilizar el nuevo modelo.
Cambios introducidos con Claude Fable 5
Claude Fable 5 fue presentado esta semana como el primer modelo de clase Mythos que está disponible para el público en general.
A diferencia de versiones anteriores de Claude diseñadas para empresas, este modelo requiere la retención temporal de datos para permitir el funcionamiento de nuevos sistemas de seguridad que han sido desarrollados por Anthropic.
Estos nuevos mecanismos están destinados a identificar intentos de eludir las restricciones del modelo mediante técnicas conocidas como «jailbreaking», que consisten en formular múltiples variantes de una misma consulta para obtener respuestas prohibidas.
Para ello, Anthropic mantiene un almacenamiento temporal de los prompts enviados por los usuarios y las respuestas generadas por el sistema.
La compañía asegura que los datos son eliminados normalmente tras 30 días, aunque pueden ser retenidos hasta dos años si se detectan posibles infracciones a las políticas de uso.
Este cambio afecta particularmente a los clientes corporativos que operaban bajo esquemas de Retención Cero de Datos, un enfoque utilizado para asegurar mayores niveles de privacidad y confidencialidad.
Asimismo, también impacta a los usuarios empresariales que acceden a Claude a través de plataformas como AWS Bedrock, Google Cloud o Microsoft Foundry.
En contraste, para los usuarios de los planes gratuitos, Pro y Max, la retención de datos ya formaba parte de las condiciones de uso y se mantiene sin modificaciones.
El reto de los modelos avanzados
Anthropic sostiene que Claude Fable 5 cuenta con salvaguardas adicionales, ya que es una versión adaptada para uso general de la tecnología Mythos 5, considerada una de las más avanzadas desarrolladas por la firma.
La empresa argumenta que ciertas amenazas solo pueden ser detectadas mediante el análisis de múltiples interacciones en conjunto, lo que hace necesario conservar temporalmente tanto las instrucciones como las respuestas generadas.
Por otro lado, Claude Mythos 5, que está destinado a un grupo muy limitado de organizaciones de investigación y seguridad, no incorpora estas restricciones adicionales debido a que funciona en entornos controlados.
La decisión de Microsoft refleja el creciente debate en la industria sobre el equilibrio entre las capacidades avanzadas de inteligencia artificial, la seguridad y la protección de datos, especialmente en entornos empresariales donde la confidencialidad de la información es un aspecto crítico.
Con información de AFP
Con información de Montevideo Portal
