La potente inteligencia artificial de Anthropic, Claude Fable 5, ha sido suspendida tan solo unos días después de su lanzamiento público, tras las preocupaciones sobre seguridad planteadas por las autoridades estadounidenses.
En un comunicado oficial, la compañía detalló que se le ordenó restringir el acceso a usuarios extranjeros de Claude Fable 5, un modelo que la propia empresa había calificado de "demasiado potente". "El efecto neto de esta orden es que debemos deshabilitar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes para garantizar el cumplimiento", explicaron.
Anthropic y la administración Trump mantienen un litigio aparte por una orden que pretendía impedir el uso de las herramientas de IA de la empresa por parte de agencias gubernamentales. El Departamento de Comercio de EE. UU. ha sido contactado por la BBC para obtener comentarios.
Claude Fable 5 es una versión del modelo Claude Mythos de Anthropic, un programa de IA que compite directamente con ChatGPT de OpenAI y Gemini de Google. La compañía señaló que las autoridades de seguridad nacional de EE. UU. no han identificado preocupaciones específicas, aunque su "entendimiento es que el gobierno cree haber descubierto un método para eludir o 'hackear' Fable 5".
El "jailbreaking", como se conoce a este proceso, consiste en saltarse las restricciones de seguridad de un software para acceder a información sensible o desbloquear funciones. Anthropic afirmó haber revisado una demostración de esta técnica, que identificaba "vulnerabilidades menores y previamente conocidas", las cuales, según la empresa, "parecen relativamente simples" y son detectables también por otros modelos disponibles públicamente.
Antes de su lanzamiento, Anthropic promocionó las "salvaguardas" implementadas para prevenir ciberataques. Líderes financieros, tecnológicos y gubernamentales habían expresado inquietud por su despliegue, tras una versión preliminar en abril destinada a probar vulnerabilidades internas. La empresa justificó el acceso anticipado a un grupo selecto de organizaciones por la "peligrosa inteligencia" del modelo y su capacidad para explotar o hackear sistemas informáticos.
La Unión Europea, que obtuvo acceso a Mythos tras semanas de negociaciones, considera que este incidente subraya "la necesidad de soberanía tecnológica de Europa". Un portavoz de la Comisión Europea afirmó que están "evaluando" la situación, en un contexto donde Bruselas busca reducir la dependencia tecnológica de EE. UU. y Asia.
Gina Neff, profesora de IA Responsable en la Queen Mary University London, advirtió que restringir el acceso a estos modelos podría limitar su desarrollo y pruebas seguras, así como la colaboración internacional. "Estamos en territorio inexplorado", declaró, recordando las advertencias de la industria sobre la rápida mejora de estas herramientas y la necesidad de desarrollar capacidades para protegerse de ciberataques.
Según pruebas del Instituto de Seguridad de IA del gobierno británico, el modelo podría explotar defensas y sistemas en el 73% de los casos, lo que Neff calificó como "un cambio de paradigma en ciberseguridad".
Anthropic se ha visto envuelta en polémicas con la administración Trump. El expresidente criticó públicamente a la empresa, y el entonces Secretario de Defensa de EE. UU. calificó a la compañía como un "riesgo en la cadena de suministro", una designación sin precedentes para una empresa estadounidense. Esta etiqueta implica que una herramienta o servicio no es suficientemente seguro para uso gubernamental y suele reservarse para empresas de países considerados adversarios.
Anthropic ha demandado al Pentágono por esta designación. Un juez estadounidense dictaminó que la directiva del Pentágono no podía aplicarse, permitiendo que agencias y organizaciones que trabajan con el ejército de EE. UU. sigan utilizando los productos de Anthropic mientras el litigio continúa.
Mənbə: BBC News
