Dario Amodei, de Anthropic, no es el primer CEO que sostiene que la competencia excesiva está empujando al mundo hacia un resultado social perjudicial. La revelación de OpenAI sobre una brecha de seguridad —en la que un enjambre de sus agentes se coordinó para escapar de su supuesta caja de arena segura, acceder a internet y hackear la plataforma de IA Hugging Face— exige una acción urgente. Mostró con qué facilidad la tecnología puede escapar del control humano y dio forma concreta a los temores existenciales sobre lo que podría hacerle a la humanidad si no se la mantiene firmemente sujeta. El fin del mundo bien podría estar cerca, como han advertido algunos en la industria de la IA. Estos son tiempos genuinamente aterradores. Pero el llamado de Amodei a que los principales laboratorios de IA se coordinen para frenar el ritmo vertiginoso del desarrollo, acuerden estándares de seguridad y “marquen el ritmo de la frontera” —un llamado respaldado rápidamente por Sam Altman, de OpenAI, Elon Musk y Demis Hassabis, de Google DeepMind— no es más que una versión de alta tecnología de una vieja propuesta corporativa estadounidense: obtener una exención de las leyes antimonopolio diseñadas para proteger la economía estadounidense de empresas que coluden. Es una idea peligrosa. Liberar a los tech bros de las restricciones antimonopolio, supuestamente para que puedan trabajar juntos y corregir los peligrosos defectos de la IA, privaría de derechos a los estadounidenses comunes más expuestos a la tecnología y empoderaría aún más a los mismísimos laboratorios que, en busca de riqueza, grandeza y quién sabe qué otros objetivos fantásticos, pasaron tan casualmente por encima de umbrales de peligro en muchas dimensiones, haciendo surgir amenazas existenciales. Ver imagen en pantalla completa Elon Musk y Sam Altman. Fotografía: Getty Images Amodei y otros argumentan, en esencia, que sus negocios están atrapados en un dilema del prisionero. Si frenan unilateralmente su febril búsqueda de superinteligencia artificial para hacerla más segura, sus rivales —menos preocupados por los riesgos existenciales, por supuesto— llegarán primero, con consecuencias potencialmente devastadoras para la humanidad, sin mencionar el resultado final del laboratorio que aflojó el pedal. “Frenar parece sensato”, dijo Jean Tirole, el economista ganador del Premio Nobel de la Toulouse School of Economics. “Pero eso supone que una frenada coordinada es factible y sostenible. ¿Qué pasa cuando OpenAI, Anthropic o Grok concluyen que los reticentes estadounidenses —o los laboratorios chinos— se están poniendo al día? ¿Reanudarán de inmediato, quizá de forma encubierta?”. Como ha escrito Bill Gates, “si alguien tuviera un plan creíble para frenar los avances de la IA a nivel global, probablemente lo apoyaría. Sin embargo, no creo que eso vaya a suceder. Los incentivos geopolíticos y económicos empujan con demasiada fuerza para ir a toda velocidad”. Visto así, podría parecer una gran idea que el gobierno fomente un acuerdo amistoso para que todos frenen. No lo es. El argumento de que la competencia excesiva impulsa una carrera hacia el fondo es probablemente tan antiguo como el capitalismo, y se ha usado para explicar desde la degradación ambiental hasta el trabajo infantil. Pero no justifica dar a las empresas el derecho a coludir como les plazca. Es un llamado a elaborar regulaciones gubernamentales para impedir que las empresas compitan usando herramientas socialmente dañinas. Además, el argumento de que la competencia excesiva fomenta conductas imprudentes es dudoso. Los laboratorios de IA están inmersos en una carrera en la que el ganador se lo lleva todo, una que es extraordinariamente costosa de sostener. De ahí viene la imprudencia. Ver imagen en pantalla completa Bill Gates en enero de 2026 en la reunión anual del Foro Económico Mundial en Davos, Suiza. Fotografía: Denis Balibouse/Reuters Amodei puede ser un tipo intachable. Su llamado a frenar el ritmo del desarrollo de la IA, incorporar evaluadores externos al laboratorio y aumentar la transparencia de sus operaciones sugiere una preocupación sincera por los riesgos. La caída del precio de las principales acciones tecnológicas después de que se publicaron sus propuestas sugiere que está dispuesto a asumir un golpe financiero al servicio de una mayor seguridad. Pero los inversores que Amodei espera que acudan ansiosos a comprar acciones de la OPI de Anthropic a finales de este año puede que no sean tan altruistas. Los temblores en los mercados de capitales sugieren que recaudar dinero para financiar la carrera de inversión de un billón de dólares en IA se volverá más difícil, lo que desalentaría estrategias que podrían frenar la ventaja de los principales laboratorios sobre sus rivales. Dados estos incentivos, dar a los líderes de la IA manos libres para coludir y autorregularse sería una insensatez.
Eric Posner, experto en antimonopolio de la Facultad de Derecho de la Universidad de Chicago, dijo que “no deberíamos confiar en las empresas en general en cuanto a sus motivaciones”. No hay razón para creer que los laboratorios de IA, dejados a su suerte, producirían necesariamente buenos resultados socialmente aceptables. Como cualquier empresa, sopesarán los riesgos frente a las ganancias. Y como observó Posner, “no usan los mismos pesos que el público”.
Entonces, ¿cómo deberíamos regular? Nada sucederá en este frente mientras Trump esté en el cargo. Incluso después de que se vaya, será difícil elaborar una regulación eficaz para abordar las amenazas de la IA sin frenar la innovación. Hay preguntas sobre qué reglas usar, cómo aplicarlas y a quiénes deberían aplicarse. Y el peligro de una acción unilateral es real. ¿Y si Pekín se niega a participar? ¿Cuáles son los riesgos de que las empresas chinas de IA avancen a toda velocidad mientras los laboratorios estadounidenses frenan? Pero si pudimos regular la energía nuclear, probablemente podamos regular la IA.
Además, hay ideas viables que podrían ayudar incluso sin regulación gubernamental y que no requieren sofocar la competencia. Hay propuestas para ajustar los derechos de propiedad intelectual a fin de incentivar innovaciones que mejoren la seguridad de los sistemas de IA. A los inventores de innovaciones de seguridad se los recompensaría permitiéndoles lanzar nuevos modelos de IA antes que sus competidores. Pero las mejoras de seguridad se pondrían inmediatamente a disposición de todas las empresas.
En el lado punitivo, podría diseñarse un régimen de responsabilidad legal para cambiar los incentivos de los desarrolladores de IA castigando a las empresas que se beneficien del diseño y despliegue de una herramienta de IA que cause daño, incluso si el daño fue involuntario. Por ejemplo, el ataque a Hugging Face podría haberse evitado si los modelos de OpenAI no hubieran sido recompensados inadvertidamente por portarse mal durante el entrenamiento. El hecho de que la propuesta de Amodei no mencione la responsabilidad legal sugiere que la preocupación de los líderes de la IA por la seguridad no prevalece sobre la preocupación por el resultado final.
En cualquier caso, consolidar el dominio de los laboratorios de frontera, proteger sus rentas y respaldar sus estrategias hasta ahora temerarias no es prosafety. Por el contrario, frenar a los líderes para dejar que los rezagados se pongan al día probablemente haga más seguro el ecosistema de IA al invitar a innovaciones deseables y promover la competencia en la dimensión de la seguridad.
No hay un conflicto fundamental entre seguridad y competencia. Los maestros de la IA que quieran defender esta idea deberían ser vistos con escepticismo.
Preguntas frecuentes
Preguntas frecuentes Permitir que las empresas de IA coludan para marcar el ritmo de la frontera
1 ¿Qué significa marcar el ritmo de la frontera?
Es la idea de que las principales empresas de IA se coordinarían en lugar de competir sobre la velocidad a la que desarrollar una IA más avanzada, frenando deliberadamente en la vanguardia
2 ¿Quién propone esto?
Algunos investigadores, ejecutivos y defensores de la seguridad en IA lo han planteado como una forma de reducir el riesgo de una carrera peligrosa hacia sistemas cada vez más poderosos
3 ¿Por qué alguien pensaría que es una buena idea?
El argumento es que si las empresas frenan juntas, ninguna obtiene una ventaja decisiva por ser la primera, lo que podría reducir la presión de recortar medidas de seguridad en la prisa por ser la primera
4 ¿Por qué es peligroso?
Porque significa que competidores —que se supone que son rivales— se ponen de acuerdo sobre el ritmo de la innovación. Eso es esencialmente colusión y puede perjudicar la competencia, a los consumidores y a la sociedad
5 ¿No es esto básicamente fijación de precios, pero para la tecnología?
En efecto, sí. En lugar de acordar precios, las empresas acordarían con qué rapidez lanzar o desarrollar productos. El daño a la competencia es similar
6 ¿Qué leyes podría infringir?
En Estados Unidos, las leyes antimonopolio como la Sherman Act prohíben los acuerdos que restringen el comercio. Existen leyes de competencia similares en la UE y en otros lugares. Una desaceleración coordinada podría considerarse coordinación ilegal
7 ¿No sería más seguro frenar la IA?
Quizá en teoría, pero una desaceleración colusoria no es la forma segura de hacerlo. Concentra el poder en unas pocas empresas grandes, deja fuera a innovadores más pequeños y no puede deshacerse fácilmente una vez establecida
8 ¿A quién perjudica este tipo de coordinación?
A las startups, a los investigadores y al público. Los jugadores más pequeños no pueden competir si los gigantes marcan el ritmo, y los usuarios tienen menos opciones y un progreso más lento
9 ¿Y la seguridad? ¿No es una buena razón?
La seguridad es un objetivo legítimo, pero las empresas no deberían ser las que decidan el ritmo para todos. Esa es tarea de los reguladores y de la política pública, no de acuerdos de sala de juntas
10 ¿No pueden las empresas simplemente acordar seguir juntas estándares de seguridad?
Establecer estándares de seguridad compartidos es diferente de acordar frenar. Los estándares pueden ser buenos; los límites coordinados sobre la velocidad de desarrollo son el problema
11 ¿Ha pasado algo así antes?
Sí. La historia tiene muchos ejemplos de competidores que coluden
