La compañía de inteligencia artificial Anthropic ha anunciado la suspensión del acceso a sus avanzados modelos 'Claude Fable 5' y 'Mythos 5'. Esta medida responde a una directiva del Gobierno de Estados Unidos que limita el uso de estos modelos a ciudadanos extranjeros, aludiendo a preocupaciones de "seguridad nacional".
A través de un comunicado, Anthropic señaló que la orden ejecutiva no incluye detalles específicos sobre las razones de la restricción, aunque se especula que las autoridades han identificado una posible vulnerabilidad que podría saltarse los límites de seguridad del programa. "Hoy recibimos la directiva del Gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el Gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5", explicaron.
Anthropic ha defendido que su modelo ya incorporaba estrictas salvaguardas para mitigar el riesgo de uso indebido en ciberseguridad
La empresa ha criticado que la Casa Blanca solo les notificara las posibles vulnerabilidades de manera verbal. Argumentan que el Gobierno debería tener la capacidad de bloquear despliegues inseguros mediante un proceso legal que fuera transparente, justo, claro y basado en hechos técnicos. En su opinión, la acción del gobierno no cumple con estos principios.
El veto gubernamental ocurre apenas dos días después del lanzamiento de 'Claude Fable 5', el primer modelo de la clase 'Mythos', diseñado para ser distribuido de manera restringida entre organizaciones asociadas al programa 'Project Glasswing'. Para impedir usos maliciosos, Anthropic había implementado un sistema de contención que limita automáticamente las respuestas a preguntas sensibles relacionadas con ciberseguridad, biología o química. Este protocolo redirige internamente tales consultas hacia un modelo de inteligencia artificial de menor capacidad, buscando ofrecer asistencia general en estos ámbitos pero evitando la divulgación de datos críticos susceptibles de ser usados para ciberataques o el desarrollo de armas biológicas.
