Una nueva controversia ha surgido en el ámbito de la inteligencia artificial, tras la difusión de informes sobre un presunto incidente de seguridad que involucra a modelos desarrollados por Anthropic y a la Agencia de Seguridad Nacional de Estados Unidos (NSA).
De acuerdo a la revista The Economist, el senador estadounidense Mark Warner, quien ocupa el cargo de vicepresidente del Comité de Inteligencia del Senado, afirmó que el director de la NSA y del Comando Cibernético de Estados Unidos, el general Joshua Rudd, le comunicó que el modelo de inteligencia artificial Mythos logró acceder a gran parte de los sistemas clasificados de la agencia en cuestión de horas.
La información sobre este incidente habría surgido el 11 de junio, coincidiendo con el momento en que Amazon detectó un supuesto mecanismo de evasión de restricciones conocido como jailbreak en modelos de Anthropic.
Según esta versión, la gravedad del incidente llevó al presidente Donald Trump a ordenar que se restringiera el acceso internacional a los modelos Mythos y Fable. No obstante, Anthropic optó por una medida más drástica, decidiendo desactivar los modelos por completo.
Este episodio ha generado versiones contradictorias. Por un lado, algunos reportes indican que la decisión de retirar los modelos se debió a que los sistemas clasificados de la NSA fueron vulnerados en pocas horas mediante el uso de estas herramientas de inteligencia artificial. Si esto se confirma, representaría uno de los incidentes de seguridad más significativos relacionados con el desarrollo de modelos avanzados de IA y podría tener implicaciones serias para la industria.
Por otro lado, hay quienes sostienen que dentro de Anthropic existe una interpretación diferente sobre lo ocurrido. Según esta postura, el jailbreak detectado habría sido de menor gravedad y la respuesta del gobierno sería desproporcionada frente a un problema que, argumentan, también afecta a otros modelos de inteligencia artificial en el mercado.
Un aspecto interesante de la controversia es que la NSA ya utilizaba los sistemas de Anthropic en varias de sus operaciones de ciberseguridad. Ingenieros de la empresa trabajaban integrados en la agencia para colaborar en el desarrollo y aplicación de estas herramientas. Esto hace que las versiones que circulan sean especialmente sensibles: la misma tecnología que fue empleada por la NSA para fortalecer sus capacidades defensivas podría haber puesto a prueba sus propios sistemas.
Este caso vuelve a poner de relieve las crecientes preocupaciones sobre la seguridad de los modelos de inteligencia artificial cada vez más sofisticados. A medida que estas herramientas adquieren mayores capacidades para analizar información, programar, automatizar tareas complejas y asistir en operaciones de ciberseguridad, también aumentan las preguntas sobre los riesgos asociados a su uso. Hasta el momento, ni Anthropic ni las autoridades estadounidenses han proporcionado información detallada que permita verificar de manera independiente el alcance real del incidente.
Con información de Montevideo Portal
