Anthropic presenta proyecto de ley de seguridad de IA que podría bloquear un modelo si más de 50 personas podrían morir
Anthropic está llevando al Capitolio algo que pocas empresas de tecnología se atreverían: un proyecto de ley que define cuándo el gobierno debería tener autoridad para impedir que un modelo de inteligencia artificial sea lanzado. El documento, reportado por primera vez por Politico el 16 de octubre y ahora en discusión confidencial con legisladores, establece una barra excepcionalmente alta para la intervención: riesgo previsible e inminente de más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares estadounidenses. Y la condición adicional es igualmente restrictiva: el daño debe derivarse de uno de solo tres escenarios: la liberación de un arma biológica, la fuga del modelo de los controles del desarrollador, o un ciberataque.
Lo que hace esta propuesta particularmente notable no es la ambigüedad de su contenido, sino precisamente lo contrario: es un esfuerzo deliberado de una empresa de IA para decir al gobierno federal de EE. UU. el alcance preciso que ella cree que es apropiado para la regulación gubernamental de modelos de frontera. En lugar de esperar que los congresistas escriban reglas para la industria desde cero, Anthropic está ofreciendo texto listo y pidiendo que sirva como base para la legislación federal.
Qué propone el proyecto
Bajo la propuesta, un modelo solo podría ser bloqueado si evaluadores independientes registrados con el Departamento de Comercio de EE. UU. identificaran un riesgo inminente enumerado. Estos evaluadores tendrían 72 horas para notificar al Departamento de Comercio, que luego debería solicitar a un juez federal en Washington la suspensión de la distribución del modelo. El texto prohíbe expresamente que cualquier otra agencia federal tenga discrecionalidad para detener la distribución por sí misma.
Los evaluadores serían pagados por los propios laboratorios — siempre que "el pago no esté condicionado a los resultados de las evaluaciones" — una disposición que plantea preguntas inmediatas sobre la independencia real. Demis Hassabis, presidente de DeepMind, sugirió hace meses que un órgano de regulación autogobernado de IA debería imitar la FINRA (Financial Industry Regulatory Authority), el organismo de autorregulación del sector financiero estadounidense. La propuesta de Anthropic sigue ese sentido, pero con una diferencia crucial: el modelo de autorregulación aquí viene de la misma empresa que quiere autorregularse.
El contexto político
La propuesta de Anthropic surge en medio de una escalada sin precedentes de tensión entre el gobierno federal y la empresa. En febrero de 2026, el presidente Trump ordenó que las agencias federales dejaran de usar tecnología de Anthropic, y el Departamento de Defensa la clasificó como "riesgo de la cadena de suministro a la seguridad nacional". En marzo, Anthropic presentó dos demandas federales contra el gobierno. En junio, el Departamento de Comercio impuso controles de exportación sobre los modelos Claude Mythos 5 y Fable 5, restringiendo el acceso a no ciudadanos estadounidenses — controles que fueron levantados el 30 de junio.
El propio CEO y cofundador de Anthropic, Dario Amodei, se cita en un proyecto de ley del Senado (S.5493, Ban Artificial Superintelligence Act of 2026) habiendo advertido que "la investigación en inteligencia artificial moderna puede superar nuestra capacidad de comprender y controlar estos sistemas, y por eso debe ser perseguida con extrema cautela". En julio de 2026, Anthropic, OpenAI y xAI acordaron públicamente que la humanidad debería desacelerar el desarrollo de IA — el llamado "pace the frontier".
Ahora, con esta propuesta, Anthropic está intentando traducir su Advanced AI Framework — un conjunto de propuestas que ha estado debatiendo con legisladores federales y estatales desde junio — en lenguaje legislativo concreto.
Reacciones: ¿demasiado débil? ¿O demasiado necesario?
La respuesta fue asimétrica. El senador estatal de California Scott Wiener, autor de la Senate Bill 53 — la misma ley que definió las umbrales de 50 muertes y 1.000 millones de dólares como "riesgo catastrófico" — reaccionó en redes sociales: "La propuesta de seguridad de IA de Anthropic queda muy por debajo de proteger la salud y la seguridad públicas. El Congreso debe ir más lejos".
Por otro lado, críticos libertarios y defensores de la innovación argumentan que cualquier mecanismo de restricción previa, por más restrictivo que sea, crea incertidumbre regulatoria para empresas que desarrollan tecnología legítima. Anthony Cimino, líder de asuntos federales de Anthropic, admitió el 18 de octubre que la redacción sobre preemptión estadual "no era suficientemente precisa" y que la empresa revisará ese texto.
Lo que la propuesta de Anthropic revela, en la práctica, es que la industria de IA está entrando en una fase donde la autorregulación ya no es suficiente, pero la regulación gubernamental tampoco está lista para asumirla. El resultado es un vacío donde cada empresa intenta dictar sus propias reglas — y donde los legisladores, sin texto concreto para discutir, terminan adoptando lo que las empresas ofrecen.
La pregunta que queda es si, cuando el próximo modelo de frontera sea lanzado, los evaluadores independientes tendrán suficiente independencia para recomendar un bloqueo — y si los legisladores tendrán voluntad política para hacer cumplir una orden judicial contra una de las empresas más valiosas del mundo.
Fuentes: TechCrunch, Technology.org, Progressive Robot
✓ Fuentes independientes cruzadas y verificadas antes de la publicación
