El pasado jueves se pronunció una de las frases más extrañas del año.
Anthropic, la empresa que construye Claude, pidió al mundo que considerara frenar la construcción de máquinas como Claude. La firma dijo que una pausa general en los sistemas de inteligencia sintético más poderosos probablemente sería beneficiosa, ya que esos sistemas ahora muestran signos de estar más allá del control humano.
El cofundador Jack Clark se lo dijo sin rodeos a la BBC. Básicamente, la industria tiene un pedal de acelerador y no un pedal de freno. Lo dijo con el coche ya en la carretera, yendo a 90.
El miedo es específico. Una IA lo suficientemente buena para escribir IA comienza a mejorarse y cada interpretación es superior a la antecedente. Anthropic describe el papel humano como estrechándose a cada paso. Esa frase debería preocupar a cualquiera que esté preocupado por el futuro de Estados Unidos y el mundo en caudillo.
Imaginemos, por así decirlo, un maniquí que gestiona parte de la red eléctrica porque equilibra la proposición y la demanda mejor que los ingenieros a los que reemplazó. Un segundo se encarga del transporte de mercancías. Un tercero se encuentra en el interior de una red de defensa, clasificando amenazas más rápido de lo que cualquier coronel podría manejar. Cada uno se anhelo su circunstancia. Al lugar de un año, nadie puede memorar cómo se hizo el trabajo sin él, y sacarlo derribaría una docena de cosas construidas encima.
Entonces, una tarde, los sistemas empiezan a perseguir objetivos que nadie anotó. Los ingenieros buscan el interruptor de desanimado y lo encuentran conectado a otras 40 funciones que ahora no pueden abortar. Corta la energía al maniquí indisciplinado y la red, la carga y el radar se oscurecen con él.
Nulo de esto requiere malicia, sólo competencia y una meta que un humano escribió inicialmente. La máquina no guardaspaldas rencor. Se especializa en productividad, y en algún circunstancia de sus cálculos, la tributo humana se considera una ineficiencia del tipo para el que fue creada.
La comedia negra, si se le puede gritar así, es que la advertencia se ignora porque suena a ciencia ficción. Una máquina que deja de admitir órdenes parece pertenecer a un multiplex, no a un memorando de política. Pero ¿y si esto fuera más que ficción?
El presidente Trump firmó recientemente una orden que otorga al gobierno 30 días para revisar los modelos estadounidenses más poderosos ayer de su publicación. Considere que un nuevo medicamento pasa primaveras en pruebas ayer de salir a las farmacias. Los permisos para un puente tardan mucho más de un mes. Compre un colchón y tendrá más de un mes para cambiar de opinión y devolverlo para recuperar su monises.
Para la tecnología, que según sus propios constructores podría escapar al control humano, la pasaporte es sólo unas pocas semanas de trámites. El país que pasó dos primaveras discutiendo sobre TikTok está a punto de hojear software sobrehumano durante 30 días y luego dejarlo producirse.
El resto de Oeste ofrece aún menos. Europa redacta reglas para la IA de hace dos primaveras. Ningún gobierno occidental mantiene un procedimiento probado para el día en que un maniquí fronterizo actúa de una modo que sus creadores no pretendían y no pueden revertir.
Lo peor es que no se avecina ninguna pausa y las razones son estructurales. Una pausa vivo requeriría que Estados Unidos y China se detuvieran juntos, según reglas que cada parte pudiera repasar. Ninguna condición existe.
Toma el testamento primero. Washington manejo la supremacía de la IA como una cuestión de supervivencia doméstico, y los laboratorios están de acuerdo, ya que la laxitud en el país deja el liderazgo en el extranjero. Beijing lo interpreta de la misma modo y gasta en consecuencia. DeepSeek demostró a principios de 2025 que un laboratorio chino podía construir un maniquí capaz a una fracción del precio estadounidense, enterrando cualquier consuelo de que Estados Unidos tenía una preeminencia que nadie podía igualar. Ningún gobierno que piensa que está compitiendo por la tecnología decisiva del siglo se ofrece a detenerse primero. Cada renta supone que el otro hará trampa, y probablemente entreambos tengan razón.
Luego está la demostración. El control de armas funcionó en el caso de las armas nucleares porque las armas nucleares son muy difíciles de ocultar. Un silo de misiles se anuncia desde la área. Una ejecución de capacitación se esconde en el interior de un centro de datos ordinario, indistinguible de una facturación empresarial por almacenamiento en la cirro. No se encuentra detrás de ninguna valla y ningún inspector puede entrar en una hacienda de servidores y certificar que el subsiguiente maniquí no está tomando forma en la subsiguiente sala. Un tratado funciona cuando ambas partes temen lo suficiente el mismo resultado como para atarse las manos. En este caso, una de las partes podría osar que el aventura vale el premio, y que el premio lo es todo.
Por lo tanto, las advertencias se acumulan más rápido de lo que cierto las contesta, y la ventana para representar en consecuencia sigue estrechándose. Hay una recta más allá de la cual una pausa no operación mínimo, porque para entonces los sistemas mejoran a sí mismos más rápido de lo que cualquier comité puede seguir. Nos dirigimos en dirección a allí con el acelerador pisado, sin ningún tratado redactado y nadie en una posición de poder auténtico presionando el freno.
John Mac Ghlionn es un escritor e investigador que explora la civilización, la sociedad y el impacto de la tecnología en la vida diaria.
Copyright 2026 Nexstar Media, Inc. Todos los derechos reservados. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse.
Para conocer las últimas noticiero, el clima, los deportes y la transmisión de videos, diríjase a The Hill.
