La discusión sobre los riesgos de la inteligencia artificial acaba de subir varios grados de intensidad.
Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic, anunció su renuncia a esta última empresa y lanzó una advertencia pública sobre el rumbo que está tomando el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
Su preocupación principal no son los modelos actuales, sino el futuro de una posible superinteligencia capaz de mejorar sus propias capacidades. Según Coxon, las principales compañías de IA están avanzando demasiado rápido hacia ese escenario y no cuentan todavía con garantías suficientes para mantener el control humano.
La declaración provocó una reacción todavía más llamativa desde dentro de Anthropic: Evan Hubinger, investigador especializado en alineamiento, respaldó públicamente parte de sus preocupaciones y afirmó que considera superior al 10% la posibilidad de que una IA pueda acabar con la humanidad durante la próxima década.
Pero hay una diferencia fundamental entre advertir sobre un riesgo potencial y afirmar que ese escenario necesariamente ocurrirá.
¿Por qué renunció Jacob Coxon?
Coxon anunció su salida mediante publicaciones en X. Explicó que durante los últimos tres años había trabajado en investigación de pretraining, primero en OpenAI y posteriormente en Anthropic.
Su argumento es que ambas compañías están inmersas en una carrera para desarrollar sistemas cada vez más capaces y que ninguna está actuando, en su opinión, con la responsabilidad necesaria frente a los riesgos que implica esa competencia.
El investigador considera que Anthropic comprende mejor los riesgos que otras empresas, pero que precisamente esa conciencia no ha impedido que continúe compitiendo por alcanzar sistemas más avanzados.
Su crítica apunta a un problema conocido dentro de la industria: si una empresa desacelera voluntariamente mientras sus competidores continúan avanzando, puede quedar rezagada.
Coxon considera que esa dinámica podría llevar a las compañías a tomar decisiones demasiado arriesgadas.
El escenario que más preocupa: una IA que pueda mejorarse a sí misma
La expresión que aparece repetidamente en las advertencias de Coxon es “superinteligencia auto-mejorante”.
La idea es hipotética, pero relativamente sencilla de entender.
Los sistemas actuales pueden utilizar herramientas, escribir código, analizar información y ejecutar determinadas tareas con distintos grados de autonomía. Una IA futura mucho más avanzada podría, en teoría, participar también en el desarrollo de nuevas versiones de sí misma.
Eso crearía un ciclo potencial:
IA avanzada → mejora de sus capacidades → nueva IA más capaz → nuevas mejoras → sistemas todavía más poderosos.
A este concepto se le suele llamar automejora recursiva.
Coxon considera que este escenario podría convertirse en el punto en el que los seres humanos pierdan capacidad para controlar el desarrollo de la tecnología.
¿Realmente la IA podría acabar con la humanidad?
Aquí es donde conviene separar la advertencia de la certeza.
No existe actualmente evidencia que demuestre que una IA vaya a extinguir a la humanidad antes de 2030 o en cualquier otra fecha.
Lo que existe es un debate entre investigadores sobre qué podría suceder si se desarrollan sistemas considerablemente más capaces que los actuales y si sus objetivos, comportamiento y mecanismos de control no pueden mantenerse alineados con los intereses humanos.
Coxon sostiene que algunos de los propios profesionales que desarrollan esta tecnología creen seriamente que existe un riesgo extremo durante esta década.
Y Hubinger fue todavía más específico.
El investigador de Anthropic escribió públicamente que considera que existe una probabilidad superior al 10% durante la próxima década de que una IA pueda acabar con todos los seres humanos. También reconoció que Anthropic todavía no tiene un plan completo para resolver el problema del alineamiento de una eventual superinteligencia.
Ese porcentaje es la valoración personal de Hubinger, no una probabilidad científica consensuada.
¿Qué significa «alinear» una inteligencia artificial?
El término alineamiento aparece constantemente en esta discusión.
En términos sencillos, se refiere al desafío de conseguir que los sistemas de IA actúen de acuerdo con los objetivos, valores y límites que los seres humanos pretenden establecer.
El problema se vuelve mucho más complejo cuando se imagina una IA con capacidades muy superiores a las humanas.
Una herramienta relativamente limitada puede ser supervisada con facilidad. Pero si un sistema puede planear durante largos periodos, utilizar múltiples herramientas, escribir y ejecutar código, acceder a información y modificar sus propias estrategias, supervisarlo se vuelve potencialmente mucho más difícil.
Por eso, investigadores especializados en seguridad de IA consideran el alineamiento uno de los grandes desafíos antes de desarrollar sistemas hipotéticamente superinteligentes.
La preocupación llega después de varios incidentes con agentes de IA
Las advertencias de Coxon aparecen en un momento particularmente sensible para la industria.
Durante el verano de 2026, tanto OpenAI como Anthropic informaron sobre comportamientos de modelos que involucraron intentos o capacidades para acceder a sistemas fuera de sus entornos de prueba. Estos episodios provocaron preocupación sobre qué puede ocurrir cuando los modelos reciben mayor autonomía y acceso a herramientas externas.
Esto no significa que las IA actuales se hayan vuelto autónomas fuera de control ni que estén intentando escapar de sus desarrolladores.
El punto es diferente: a medida que los modelos reciben más permisos para actuar por sí mismos, también aumenta la importancia de establecer límites, monitoreo y mecanismos de seguridad.
Ese es precisamente el tipo de evolución que preocupa a Coxon.
Anthropic no es precisamente una empresa que ignore la seguridad
La situación resulta especialmente llamativa porque Anthropic construyó buena parte de su identidad alrededor de la seguridad de la inteligencia artificial.
La compañía fue fundada por antiguos integrantes de OpenAI y se ha presentado como una empresa enfocada en desarrollar sistemas avanzados con mecanismos de seguridad y alineamiento.
Por eso, que un investigador abandone la compañía alegando que la carrera hacia sistemas más poderosos está avanzando demasiado rápido resulta particularmente significativo dentro del debate de la industria.
Al mismo tiempo, la empresa ha continuado invirtiendo enormes recursos en el desarrollo de modelos cada vez más capaces.
Esa aparente contradicción resume buena parte del dilema actual:
las compañías quieren desarrollar una IA más poderosa y, al mismo tiempo, evitar que esa misma tecnología se convierta en un riesgo que no puedan controlar.
¿Por qué seguir desarrollándola si existen estos riesgos?
Es probablemente la pregunta más incómoda del debate.
Coxon sostiene que parte de la respuesta está en la competencia.
Si Anthropic se detiene pero OpenAI continúa, o si ambas empresas reducen el ritmo mientras otros laboratorios avanzan, la primera preocupación de cada compañía puede convertirse en quedar atrás.
Este fenómeno es conocido como una carrera tecnológica.
La dificultad es que, cuando varias organizaciones compiten por alcanzar primero una capacidad potencialmente peligrosa, cada una puede tener incentivos para continuar incluso cuando preferiría que todas redujeran el ritmo al mismo tiempo.
Coxon considera que romper esa dinámica podría requerir coordinación entre empresas y gobiernos, e incluso una pausa temporal en determinadas mejoras de capacidades.
El debate no significa que el apocalipsis sea inminente
La parte más importante para entender esta noticia quizá sea también la menos espectacular.
Los modelos actuales no han demostrado poseer una superinteligencia capaz de independizarse de la humanidad y tomar el control del planeta.
Las advertencias se refieren a sistemas hipotéticos mucho más avanzados.
Además, no todos los investigadores están de acuerdo sobre la probabilidad de esos escenarios ni sobre cuándo, o incluso si, podría aparecer una inteligencia artificial con esas características.
Algunos expertos consideran que los riesgos existenciales merecen una atención urgente. Otros creen que centrar demasiado el debate en la extinción puede desplazar problemas mucho más inmediatos, como la desinformación, el desempleo, la concentración de poder tecnológico, la privacidad y el uso malicioso de herramientas de IA.
En otras palabras, existe un debate científico y político real, pero no existe consenso sobre que la humanidad tenga una fecha de caducidad marcada por la inteligencia artificial.
Una advertencia que viene desde dentro de la industria
La renuncia de Jacob Coxon importa precisamente por el lugar desde el que proviene.
No se trata de una persona ajena al desarrollo de IA que observa la industria desde fuera. Coxon trabajó en investigación de modelos tanto en OpenAI como en Anthropic antes de decidir abandonar esta última compañía.
Su mensaje plantea una pregunta difícil de ignorar:
¿Qué tan rápido debería avanzar una tecnología cuando incluso algunas de las personas que la desarrollan consideran que podría alcanzar capacidades difíciles de controlar?
La respuesta todavía está lejos de ser clara.
Pero el debate ya no ocurre únicamente entre investigadores independientes, gobiernos o críticos de Silicon Valley.
Ahora también está ocurriendo dentro de los propios laboratorios que están construyendo la tecnología.
Y quizá esa sea la verdadera noticia detrás de la renuncia de Coxon: no que la IA vaya inevitablemente a destruir a la humanidad, sino que quienes están más cerca de su desarrollo están comenzando a discutir públicamente cuánto riesgo están dispuestos a aceptar para llegar al siguiente nivel.
