Anthropic, OpenAI, Google y Microsoft manifestaron su respaldo a una coordinación entre las principales compañías de inteligencia artificial para disminuir la velocidad con la que se desarrollan los sistemas más avanzados. La propuesta busca establecer medidas de seguridad comunes antes de que las capacidades de estas tecnologías superen los mecanismos actuales de supervisión.
El planteamiento fue impulsado por Dario Amodei, director ejecutivo de Anthropic, quien advirtió sobre los riesgos derivados del uso indebido de modelos cada vez más autónomos. El objetivo no sería detener la innovación, sino acompasar el progreso técnico con la creación de controles, evaluaciones independientes y acuerdos internacionales.
Anthropic propone evaluar los sistemas de manera independiente
La propuesta plantea incorporar evaluadores externos capaces de revisar las prácticas de las empresas que desarrollan modelos de frontera. Estos especialistas analizarían las capacidades de los sistemas y los riesgos asociados con su operación antes de permitir avances hacia niveles superiores.
Amodei también propuso que las compañías coordinen estándares mínimos de seguridad. La cooperación tendría que realizarse sin que las empresas intercambien información comercial sensible ni utilicen los acuerdos para limitar la competencia.
El plan surge después de distintos reportes sobre modelos utilizados en actividades dañinas, entre ellas ataques informáticos, vigilancia, fraude y desarrollo de armamento. Estos episodios aumentaron las dudas sobre la capacidad de las empresas para controlar todas las aplicaciones de sus tecnologías.
OpenAI, Google y Microsoft respaldan mayor cautela
Sam Altman, director ejecutivo de OpenAI, expresó apoyo a una eventual desaceleración coordinada. Demis Hassabis, responsable de Google DeepMind, también se pronunció a favor de establecer mayores controles, mientras Microsoft presentó un código centrado en mantener la inteligencia artificial bajo supervisión humana.
La compañía dirigida por Satya Nadella sostiene que las personas deben conservar el control de los sistemas y que un modelo tendría que interrumpir su operación antes que violar las reglas de seguridad. Microsoft también rechaza el desarrollo de tecnologías que fomenten una dependencia emocional o reclamen derechos equivalentes a los humanos.
Las coincidencias entre las empresas reflejan una preocupación compartida, aunque todavía no constituyen un acuerdo vinculante ni incluyen un calendario concreto para reducir el ritmo de desarrollo.
Acuerdo necesitaría coordinación internacional
Anthropic considera que la seguridad no puede depender únicamente de decisiones empresariales. El planteamiento incluye acuerdos entre gobiernos y coordinación internacional, incluso entre países que compiten por el liderazgo tecnológico.
Estados Unidos y China ocupan una posición central debido a su capacidad industrial, científica y económica. Sin su participación, una pausa aplicada solo por algunas compañías podría generar ventajas para desarrolladores que continúen avanzando sin restricciones similares.
El proyecto también contempla analizar excepciones en materia antimonopolio que permitan a las compañías investigar conjuntamente la seguridad sin exponerse a acusaciones de coordinación ilegal.
Propuesta enfrenta dudas sobre su aplicación
Críticos del sector cuestionan que las empresas puedan elegir a sus propios evaluadores y advierten sobre el riesgo de que el mecanismo sustituya regulaciones públicas más estrictas. También señalan que la presión competitiva y los compromisos financieros dificultarían una desaceleración real.
La iniciativa enfrenta además la postura del gobierno estadounidense, que busca mantener el liderazgo del país frente a China. El debate se concentra ahora en definir si los compromisos voluntarios pueden convertirse en estándares verificables y qué institución tendría autoridad para vigilar su cumplimiento.
