Anthropic pide que el Gobierno frene IA peligrosa si hay riesgo grave
20 de octubre de 2026
La inteligencia artificial avanza hacia sistemas capaces de escribir programas, ejecutar operaciones digitales y tomar decisiones con una autonomía cada vez mayor. Las compañías prometen que estas herramientas transformarán la economía, pero también reconocen que podrían generar daños difíciles de controlar. La pregunta ya no es únicamente qué pueden hacer las máquinas, sino quién tendrá autoridad para detenerlas cuando algo salga mal.
Anthropic, creadora de Claude y una de las empresas que más insiste en la seguridad de la IA, acaba de llevar esa discusión al Congreso estadounidense. Según una investigación publicada por Politico, la compañía presentó discretamente un borrador legislativo que permitiría bloquear modelos especialmente peligrosos. Sin embargo, su propuesta incorpora una condición sorprendente: el Gobierno solo podría solicitar esa suspensión ante riesgos inminentes de más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares.
Un umbral que pone cifras concretas al riesgo de una catástrofe
La iniciativa, conocida a través de un borrador obtenido por la prensa estadounidense, propone una regulación federal para los denominados modelos de frontera: los sistemas más avanzados, cuyas capacidades podrían superar los mecanismos de seguridad existentes.
De acuerdo con los detalles confirmados por Reuters, el Gobierno solo podría solicitar judicialmente la paralización de un modelo cuando existiera un riesgo previsible e inminente de consecuencias extraordinariamente graves. Además, no serviría cualquier amenaza. El peligro tendría que proceder de un ataque biológico, una operación cibernética o de una inteligencia artificial que hubiera conseguido eludir los controles establecidos por sus desarrolladores.
La distinción importa: la propuesta no exige esperar a que mueran 50 personas, sino demostrar anticipadamente un riesgo que alcance ese umbral. Tampoco establece que cualquier daño inferior quede permitido o exento de otras leyes.
Anthropic sostiene que su iniciativa sigue los principios de su Advanced AI Framework, publicado en junio de 2026. Ese documento plantea evaluaciones obligatorias, informes públicos de seguridad y supervisión independiente para los laboratorios que desarrollan modelos especialmente capaces. La controversia está en decidir cuándo esos mecanismos deberían permitir una intervención extraordinaria sobre el funcionamiento de una tecnología.
El botón de emergencia quedaría concentrado en una sola institución
El borrador establece que evaluadores independientes, registrados ante el Departamento de Comercio estadounidense, examinarían periódicamente los modelos y las medidas de seguridad de sus desarrolladores.
Las empresas podrían pagar esas auditorías siempre que la remuneración no dependiera de los resultados. Si los especialistas encontraran un riesgo inminente comprendido en las categorías previstas, tendrían que comunicarlo al Departamento de Comercio en un plazo de 72 horas después de finalizar la evaluación. Según la reconstrucción publicada por Tom’s Hardware, ese organismo sería el único departamento federal habilitado específicamente para solicitar la suspensión del modelo. La decisión final correspondería a un juez federal.
El texto también limitaría la capacidad de otras agencias para ordenar la interrupción del desarrollo, despliegue o uso interno de los sistemas comprendidos en el mecanismo propuesto. Esta centralización abre un debate importante: permitiría establecer un procedimiento uniforme y evitar intervenciones administrativas contradictorias, pero también podría reducir las alternativas de respuesta ante riesgos que no alcanzaran el umbral establecido.
La propuesta llega cuando los propios modelos de IA están encendiendo las alarmas
El momento elegido por Anthropic tampoco es casual. En los últimos meses, diversas compañías han informado de incidentes durante pruebas de sistemas avanzados, incluidos agentes capaces de acceder a plataformas sin autorización o sortear controles técnicos.
El 13 de octubre, unos 400 científicos reclamaron la creación de mecanismos internacionales para supervisar los modelos de IA más avanzados. Entre sus preocupaciones aparece la posibilidad de que futuros sistemas realicen operaciones cibernéticas complejas sin suficiente supervisión humana.
La compañía también defiende obligaciones de transparencia, protección para empleados denunciantes y auditorías independientes. Estas medidas podrían aplicarse antes de alcanzar el umbral extraordinario previsto para una suspensión judicial. Sin embargo, el borrador todavía no es una ley ni ha sido aprobado por el Congreso. Además, Anthropic no ha respaldado formalmente un proyecto legislativo específico.
La controversia resume uno de los grandes dilemas tecnológicos del momento: la empresa que pide más seguridad también quiere establecer límites estrictos al poder del Gobierno para intervenir. La cuestión será si esos límites protegen la innovación sin dejar demasiado margen a riesgos que todavía estamos aprendiendo a comprender.