El debate sobre los riesgos de la inteligencia artificial acaba de subir varios grados de temperatura. Dario Amodei, fundador y director ejecutivo de Anthropic, acusó a buena parte de la industria tecnológica de haber minimizado durante años los peligros asociados con el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
En una entrevista con el programa Sunday Morning de CBS, Amodei aseguró que existen riesgos reales relacionados con esta tecnología y afirmó que Anthropic nunca ocultó esa posibilidad, aunque sostuvo que otras compañías sí lo hicieron.
Sus declaraciones llegaron después de que publicara un ensayo en el que pidió a la industria reducir el ritmo de desarrollo de los modelos de IA de frontera, precisamente cuando las capacidades de estos sistemas avanzan a una velocidad que, según él, podría superar la capacidad de gobiernos y empresas para comprenderlos y controlarlos.
Amodei pide frenar el ritmo de desarrollo de la IA
La propuesta de Amodei no consiste en detener por completo la inteligencia artificial. Su argumento es que el desarrollo debe avanzar a una velocidad que permita construir al mismo tiempo las herramientas necesarias para evaluar y controlar los riesgos.
Entre las amenazas que mencionó se encuentran el uso de sistemas avanzados para ciberataques, bioterrorismo, pérdida de control sobre modelos cada vez más autónomos y una fuerte disrupción económica.
El ejecutivo también rechazó la idea de una prohibición general de la tecnología. A su juicio, detener completamente la IA impediría aprovechar posibles beneficios, incluidos avances médicos, y tampoco garantizaría que otros países hicieran lo mismo.
Ahí aparece uno de los principales problemas del debate: si Estados Unidos reduce el ritmo mientras China continúa desarrollando sistemas cada vez más potentes, la carrera tecnológica podría trasladarse al terreno geopolítico.
Amodei reconoció que ese es precisamente uno de los dilemas más difíciles de resolver.
“La industria mintió” y ahora pide intervención de los gobiernos
La declaración que más repercusión ha generado fue su acusación directa contra el sector.
Amodei afirmó que durante demasiado tiempo la industria de la IA no fue suficientemente transparente respecto a los riesgos de esta tecnología. En contraste, sostuvo que Anthropic siempre ha advertido públicamente sobre ellos.
El ejecutivo también dijo sentirse incómodo ante el hecho de que empresas privadas estén desarrollando tecnologías con posibles consecuencias globales sin que exista una estructura de gobernanza equivalente.
Por ello, planteó que los gobiernos democráticos tengan un papel mucho mayor en la supervisión de las compañías de IA.
Su propuesta apunta hacia una especie de gobernanza conjunta entre gobiernos y empresas tecnológicas, acompañada de mecanismos de monitoreo capaces de evaluar cómo evolucionan los modelos más avanzados.
La postura supone un cambio relevante en el debate: la discusión ya no gira únicamente en torno a si las empresas deben establecer sus propias medidas de seguridad, sino sobre cuánto poder deberían conservar los gobiernos para supervisar una tecnología desarrollada principalmente por compañías privadas.
Anthropic no está sola: OpenAI y xAI también reaccionaron
Las declaraciones de Amodei adquieren mayor relevancia porque coincidieron con una serie de advertencias procedentes de otros líderes de la industria.
Después de la publicación de su ensayo sobre la necesidad de desacelerar el desarrollo de la IA, Sam Altman, CEO de OpenAI, y Elon Musk, de xAI, expresaron públicamente su respaldo a la idea de establecer mayores controles sobre el ritmo de desarrollo.
El contexto también incluye la renuncia de Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic. Coxon anunció su salida de Anthropic el 8 de septiembre y afirmó que ambas compañías estaban avanzando hacia sistemas cada vez más capaces sin actuar, a su juicio, de manera suficientemente responsable.
Coxon advirtió específicamente sobre la carrera hacia sistemas capaces de mejorar sus propias capacidades, una posibilidad que ha provocado preocupación entre investigadores especializados en seguridad de IA.
El hecho de que antiguos investigadores y ejecutivos de compañías líderes estén haciendo públicas estas preocupaciones ha colocado nuevamente la seguridad de la inteligencia artificial en el centro del debate internacional.
El gran dilema: seguridad contra carrera tecnológica
La discusión está lejos de resolverse.
Por un lado, Amodei sostiene que los sistemas de IA deben desarrollarse con suficientes medidas de seguridad para evitar que sus capacidades avancen más rápido que la capacidad humana para controlarlas.
Por otro, existe una presión geopolítica para que Estados Unidos mantenga su liderazgo tecnológico frente a China.
El propio Amodei reconoció esta tensión. Considera que una desaceleración estadounidense podría permitir que otros países continúen avanzando, pero también advierte que acelerar sin suficientes controles podría generar riesgos mucho mayores.
El debate ya está provocando respuestas políticas. Mientras algunos líderes estadounidenses piden salvaguardas y mayor supervisión, el presidente Donald Trump ha rechazado las propuestas que considera capaces de frenar el desarrollo tecnológico estadounidense frente a China.
La pregunta que queda sobre la mesa es cada vez más complicada: ¿qué ocurre cuando las empresas que construyen la tecnología más poderosa del mundo reconocen que no están completamente seguras de hasta dónde puede llegar?
Para Amodei, la respuesta no es apagar la inteligencia artificial, sino desacelerar lo suficiente para que la seguridad pueda alcanzar a la tecnología.
Y, por primera vez en mucho tiempo, algunos de los principales competidores de la industria parecen estar de acuerdo en que correr más rápido quizá ya no sea la única opción.
