La empresa estadounidense Anthropic, desarrolladora del asistente de inteligencia artificial Claude, presentó a legisladores de Estados Unidos una propuesta para regular los sistemas de IA más avanzados. La iniciativa permitiría que las autoridades solicitaran la suspensión de un modelo cuando exista un riesgo previsible e inminente de causar daños superiores a 1.000 millones de dólares o provocar la muerte o lesiones graves de más de 50 personas.
La propuesta, conocida a través de un borrador legislativo que circula entre congresistas estadounidenses, representa un nuevo capítulo en el debate sobre los límites que deben establecerse al desarrollo y comercialización de tecnologías capaces de operar con niveles crecientes de autonomía.
Sin embargo, existe una distinción fundamental: Anthropic no ha ordenado paralizar ningún sistema de inteligencia artificial ni los límites mencionados constituyen actualmente una legislación federal aprobada. Se trata de un proyecto normativo que la compañía busca promover ante el Congreso.
El documento contempla mecanismos de intervención gubernamental para situaciones consideradas catastróficas, aunque establece condiciones específicas que deberán cumplirse antes de impedir la distribución o utilización de un modelo avanzado.
TRES ESCENARIOS DE ALTO RIESGO
La propuesta identifica tres situaciones que justificarían una intervención extraordinaria: la utilización de inteligencia artificial para crear o liberar armas biológicas, la pérdida de control sobre sistemas capaces de eludir las restricciones impuestas por sus desarrolladores y los ciberataques de consecuencias potencialmente devastadoras.
No bastaría, por tanto, con que una herramienta presentara errores de funcionamiento o generara perjuicios económicos. Para activar el mecanismo extraordinario tendría que existir una amenaza suficientemente grave, vinculada con alguno de los escenarios establecidos.
Los umbrales económicos y humanos planteados han provocado cuestionamientos sobre la protección que recibirían las personas frente a daños de menor magnitud.
Una de las interrogantes centrales consiste en determinar si una regulación basada en riesgos catastróficos ofrecería herramientas suficientes para enfrentar problemas que ya afectan a usuarios, trabajadores y organizaciones, como las vulneraciones de privacidad, los fraudes y el uso indebido de información.
SUPERVISIÓN INDEPENDIENTE Y CONTROL JUDICIAL
El proyecto establece que evaluadores independientes, registrados ante el Departamento de Comercio estadounidense, examinen periódicamente los modelos de inteligencia artificial más potentes.
Cuando identifiquen una amenaza catastrófica inminente, deberán comunicarla a las autoridades dentro de un plazo máximo de 72 horas.
El Departamento de Comercio sería el organismo autorizado para solicitar ante un tribunal federal de Washington la suspensión del lanzamiento o funcionamiento del sistema.
La decisión definitiva correspondería a un juez, lo que impediría que una agencia administrativa paralizara unilateralmente una tecnología amparándose únicamente en sus propias evaluaciones.
La propuesta incluye obligaciones de transparencia, presentación de informes de seguridad y protección para empleados que denuncien irregularidades dentro de las compañías tecnológicas.
DEBATE SOBRE LA AUTORREGULACIÓN
La iniciativa ha generado controversia porque una empresa dedicada precisamente al desarrollo de inteligencia artificial pretende participar directamente en el diseño de las normas que regularán su actividad.
Diversos especialistas consideran necesario establecer mecanismos de supervisión independientes, pero cuestionan que el poder de intervención gubernamental quede limitado a amenazas de consecuencias extraordinarias.
Otro punto de discusión es la posibilidad de que la legislación federal sustituya determinadas regulaciones estatales sobre evaluación, divulgación de riesgos y comunicación de incidentes.
Anthropic sostiene que su planteamiento está relacionado con el marco de seguridad avanzada que presentó en junio de 2026, en el cual defendió mayores controles sobre sistemas capaces de ocasionar daños catastróficos.
EL FUTURO DE LA SEGURIDAD DIGITAL
El debate coincide con el acelerado desarrollo de herramientas de inteligencia artificial capaces de ejecutar tareas complejas, identificar vulnerabilidades informáticas y participar en procesos de investigación científica.
Estas capacidades representan oportunidades importantes para sectores como la medicina, la educación y la industria, pero también plantean interrogantes sobre su utilización indebida.
La discusión estadounidense podría adquirir relevancia internacional, especialmente para países que todavía no cuentan con legislación específica sobre sistemas avanzados de inteligencia artificial.
Por ahora, el proyecto promovido por Anthropic continúa siendo una propuesta y no una disposición legal obligatoria.
Su eventual aprobación dependerá del proceso legislativo estadounidense y de las negociaciones sobre el alcance que deberán tener las facultades gubernamentales para intervenir frente a tecnologías consideradas peligrosas.
La cuestión central permanece abierta: ¿debe esperarse a que una inteligencia artificial represente una amenaza de dimensiones catastróficas para impedir su funcionamiento, o deberían existir mecanismos preventivos capaces de actuar mucho antes?
