El gobierno de los Estados Unidos ha emitido una orden legal de seguridad nacional a Anthropic para suspender el acceso a sus nuevos modelos de IA Fable 5 y Mythos 5. La orden obliga efectivamente a Anthropic a cortar el acceso para todos, ya que sería esencialmente imposible verificar el estatus de extranjero.
Directiva de control de exportaciones
El gobierno de los Estados Unidos emitió una Directiva de Control de Exportaciones, que es una orden legal que restringe o suspende la transferencia de productos, datos o tecnologías específicos a países extranjeros o ciudadanos de otro país.
Antrópico anunció:
“El gobierno de los EE. UU., citando autoridades de seguridad nacional, ha emitido una directiva de control de exportaciones para suspender todo acceso a Fable 5 y Mythos 5 por parte de cualquier ciudadano extranjero, ya sea dentro o fuera de los Estados Unidos, incluidos los empleados extranjeros de Anthropic. El efecto neto de esta orden es que debemos desactivar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes para garantizar el cumplimiento. El acceso a todos los demás modelos de Anthropic no se verá afectado”.
El pedido se recibió a las 5:21 p. m. EST. La explicación de Anthropic sobre la orden cita que el gobierno de Estados Unidos “cree: hay una manera de eludir las barreras de seguridad en Fable 5. Anthropic considera los ejemplos que revisaron como vulnerabilidades menores.
Antrópico contradice la preocupación del gobierno por la ciberseguridad
La respuesta de Anthropic es que ya cuentan con fuertes salvaguardas que hacen que sea poco probable que alguien haga un mal uso de su modelo de IA de Fable 5. Su posición parece contradecir la afirmación del gobierno de que existe un riesgo para la seguridad.
Ellos explicaron:
“Hemos instituido fuertes salvaguardas que reducen en gran medida la probabilidad de que Fable sea utilizado indebidamente para tareas relacionadas con la ciberseguridad (entre otras). De hecho, nuestras salvaguardas son tan fuertes que muchos usuarios se han quejado de que son demasiado amplias.
…Dado que una resistencia perfecta al jailbreak no parece ser posible hoy en día, Anthropic adoptó una estrategia de defensa en profundidad con Fable 5. Nuestro objetivo era hacer que los jailbreak fueran estrechos (en el caso de los jailbreak no universales) o muy costosos de producir (en el caso de los jailbreak universales), y combinar esto con un monitoreo exhaustivo para detectar y detener rápidamente cualquier ataque exitoso.
Respaldamos esta estrategia de defensa en profundidad. Reduce los riesgos que plantea Fable, haciéndolos comparables a los riesgos de los modelos existentes que ya se han implementado en toda la industria.
Ni siquiera hemos recibido una divulgación de un potencial jailbreak no universal preocupante que condujera a un resultado dañino. Las posibles fugas que se nos han revelado son respuestas completamente benignas o hallazgos menores que no proporcionan ninguna mejora específica de Mythos”.
Disputa del gobierno de Estados Unidos con Anthropic
El gobierno de los Estados Unidos ha tenido una disputa actual con Anthropic que surgió de la negativa de Anthropic a permitir que sus productos se utilicen para vigilancia nacional masiva y sistemas de armas totalmente autónomos, que son armas que pueden seleccionar de forma independiente sus objetivos y atacar sin participación humana adicional.
La reacción a la directiva del gobierno es impopular
En un anuncio publicado en X, Anthropic prometió que está trabajando para restaurar el servicio:
“Pedimos disculpas por esta interrupción a nuestros clientes. Creemos que se trata de un malentendido y estamos trabajando para restablecer el acceso lo antes posible”.
En cuestión de horas, el anuncio recibió más de 7.000 respuestas y 32 millones de visitas. Las respuestas fueron en gran medida de apoyo a Anthropic y críticas al gobierno de Estados Unidos.
@jackson_lo58573 se hizo eco de la declaración de Anthropic sobre las salvaguardas integradas en Fable 5:
“El modelo Fable 5 tenía TANTAS SALVAGUARDIAS que ni siquiera podía hacer preguntas de biología básica o hacer trabajos de infraestructura en los modelos de IA locales que tengo, Anthropic no podía hacer más aquí (y según mi opinión y la de muchos otros, tenía demasiadas salvaguardias implementadas)”.
Otros sienten que esto marca el fin de una era
@FirstThinkingAI tuiteó que se trataba de una cuestión de libertad:
“Esto se parece más a algo que se esperaría de un sistema centralizado y controlado por el Estado (el PCC chino) que de una sociedad que valora la competencia abierta y la innovación.
La innovación florece cuando la competencia es abierta y el acceso amplio, no cuando se crean niveles artificiales.
Si realmente estamos entrando en una “Era de la Abundancia”, entonces sus beneficios deberían estar disponibles para todos, no concentrados entre una minoría privilegiada”.
@m_adams lo vio como el fin de una era:
“Esto marca el fin de una era. Es posible que el público nunca vuelva a tener un acceso tan abierto a modelos fronterizos.
¿Qué sucede cuando sólo el gobierno y los laboratorios fronterizos tienen acceso a los modelos más potentes? No estoy seguro, pero probablemente será menos divertido de lo que estamos acostumbrados”.
Muchos usuarios antrópicos quieren un reembolso
Otros fueron pragmáticos y sólo querían que les devolvieran su dinero. @diazjulio0071 publicó:
“Cambié a Claude Max específicamente para poder usar este modelo este mes, y ahora parece que me están quitando el acceso. ¿Hay alguna posibilidad de que pueda recuperar mi dinero?”
Ese sentimiento fue compartido por muchos otros como @BackToTheFort.
“También me gustaría obtener un retorno de los fondos de la cuenta máxima que abrí para este momento o al menos una PROMESA del liderazgo que indique que nos brindarán uso gratuito por cada día que no estuvo disponible para nosotros, los seguidores”.
@CryptoGbanger tuiteó que cambiaron al plan Max el mismo día que se cerró Fable 5:
“Jajaja, lo mismo. Hoy subí a la versión de $200/mes. Me acaban de cerrar.
¿Puedo recuperar mi dinero?
¿La culpa es de lo antrópico?
Muchos otros culparon a Anthropic por promocionar sus modelos como demasiado poderosos.
Una publicación de @VorteXAIs fue representativa de este sentimiento:
“Aquí Anthropic no es la víctima inocente. Pasaron años promocionando sus modelos como “extremadamente poderosos y peligrosos”: Mitos solo para el gobierno, Fábula con pesadas barandillas. Básicamente les dijeron a todos “esta mierda es una bomba nuclear”. Ahora el gobierno de EE.UU. los tomó en serio e impuso controles de exportación… y están gritando “malentendido” sobre el comportamiento del idiota de X Darío. 😂 No se puede vender el miedo como una marca premium y luego actuar con sorpresa cuando el gobierno lo trata como un arma real. Autopropio del año”.
Y un tweet de @curtissummers
“Decepcionado por esta decisión, pero Anthropic fue un gran actor en impulsar la narrativa de que” la IA es peligrosa “. En el mejor de los casos, el gobierno de EE. UU. simplemente tomó la palabra de Anthropic y, en el peor, este es un paso hacia la nacionalización de la IA. 😩 “
¿Cuál es el próximo paso de Anthropic?
Si Anthropic tiene razón, la posición del gobierno de EE. UU. es exagerada porque ya existen suficientes barreras de seguridad para evitar que tanto Fable 5 como Mythos 5 sean mal utilizados. Anthropic se ha comprometido a devolver el servicio al público y ese bien podría ser el resultado.
Imagen destacada de Shutterstock/gguy
