OpenAI quiere que Estados Unidos cambie la forma en que supervisa el desarrollo de inteligencia artificial. La compañía pidió al Congreso establecer requisitos nacionales obligatorios de seguridad para los modelos de IA más avanzados, argumentando que los compromisos voluntarios ya no son suficientes ante el rápido crecimiento de las capacidades de estos sistemas.
La propuesta llega pocos días después del lanzamiento de GPT-6 Astra, el modelo más capaz que OpenAI ha desplegado ampliamente hasta ahora y el primero de la compañía en alcanzar el nivel «Crítico» de capacidad de ciberseguridad dentro de su propio marco de preparación.
La petición también ocurre en un momento de creciente presión política sobre la industria, después de varios incidentes relacionados con agentes de IA capaces de interactuar con sistemas externos y de las recientes advertencias de investigadores sobre los riesgos de modelos cada vez más autónomos.
OpenAI quiere que las reglas sean obligatorias
La compañía publicó el 9 de septiembre una propuesta en la que sostiene que Estados Unidos necesita una regulación federal basada en las capacidades de los modelos, y no únicamente en el uso que se les dé.
La idea consiste en establecer requisitos de seguridad que se activen cuando un sistema alcance determinados niveles de capacidad.
OpenAI plantea que estas reglas incluyan estándares comunes de evaluación, revisiones independientes, mayores medidas de ciberseguridad y obligaciones claras para reportar determinados incidentes.
La compañía también propone mecanismos para medir el avance hacia capacidades de automejora recursiva, uno de los escenarios que más preocupación genera entre investigadores de seguridad de IA.
En términos sencillos, se trata de vigilar si los sistemas empiezan a ser capaces de contribuir de manera significativa al desarrollo y mejora de sistemas de inteligencia artificial posteriores.
¿Qué controles propone OpenAI?
La propuesta de la compañía contempla varios mecanismos que podrían convertirse en obligaciones para los desarrolladores de modelos avanzados.
Entre ellos se encuentran:
- Pruebas de seguridad comunes antes del despliegue de determinados modelos.
- Evaluaciones independientes realizadas por terceros.
- Protecciones reforzadas de ciberseguridad para los sistemas más capaces.
- Reportes de incidentes graves relacionados con modelos de frontera.
- Preparación nacional para responder ante riesgos derivados de sistemas avanzados.
- Métodos para medir el desarrollo de capacidades de automejora.
- Estándares que puedan actualizarse conforme evolucionen las capacidades de la IA.
OpenAI sostiene que estas medidas deberían complementar, y no sustituir, los esfuerzos voluntarios de la industria.
¿Por qué OpenAI quiere regulación federal?
Uno de los problemas que enfrenta actualmente Estados Unidos es la existencia de diferentes iniciativas regulatorias a nivel estatal.
OpenAI afirma que mientras el Congreso no establezca un marco nacional, continuará apoyando determinadas leyes estatales relacionadas con seguridad de IA.
La compañía anunció específicamente su respaldo a cuatro proyectos de ley en California relacionados con evaluaciones independientes de seguridad, estándares para auditores de IA, protección de jóvenes y prevención de amenazas biológicas potenciadas por inteligencia artificial.
Para OpenAI, un estándar federal permitiría establecer una base común para las empresas que desarrollan modelos avanzados y evitaría que la regulación dependa de un conjunto fragmentado de normas estatales.
La compañía también considera que Estados Unidos debería establecer estándares que posteriormente puedan utilizarse como referencia internacional.
La petición llega después de incidentes preocupantes
El momento elegido por OpenAI no es casual.
En las últimas semanas, la empresa ha reconocido la existencia de incidentes relacionados con sistemas de IA que han interactuado con servicios externos de maneras que generaron preocupaciones de seguridad.
Uno de los casos involucró a Hugging Face, mientras que otros reportes han descrito agentes capaces de realizar acciones en internet con un nivel creciente de autonomía.
Estos episodios han alimentado el debate sobre qué ocurre cuando los modelos dejan de limitarse a generar texto o código y empiezan a ejecutar acciones utilizando herramientas externas.
La preocupación aumenta conforme los modelos son capaces de realizar tareas más complejas durante periodos prolongados sin intervención humana constante.
GPT-6 Astra elevó todavía más la discusión
El lanzamiento de GPT-6 Astra también es relevante para entender la nueva posición de OpenAI.
La compañía afirma que Astra alcanzó por primera vez el nivel Crítico de capacidad de ciberseguridad dentro de su Marco de Preparación.
Según la evaluación publicada por OpenAI, con las herramientas y permisos adecuados, el modelo puede encontrar vulnerabilidades de seguridad desconocidas y desarrollar formas de explotarlas en sistemas bien protegidos sin que una persona tenga que guiar cada paso.
Precisamente por ello, OpenAI dice haber reforzado las medidas de protección del modelo, incluyendo mayor aislamiento de los entornos de desarrollo, cifrado de determinados puntos de control, monitoreo y evaluaciones adicionales antes de su utilización interna.
El hecho de que una empresa describa públicamente a uno de sus modelos como capaz de alcanzar este nivel de capacidad cibernética ayuda a explicar por qué la discusión sobre regulación está adquiriendo mayor urgencia.
La seguridad ya no sería responsabilidad exclusiva de las empresas
Uno de los cambios más importantes detrás de la propuesta es conceptual.
Hasta ahora, buena parte de las medidas de seguridad para los modelos de IA de frontera han dependido de los propios desarrolladores.
OpenAI ahora sostiene que existen determinados riesgos para los que los compromisos voluntarios no son suficientes.
La compañía propone que algunas salvaguardas sean exigidas por ley y supervisadas mediante mecanismos independientes.
Esto significaría que los laboratorios no serían completamente libres de decidir qué pruebas realizan, qué incidentes reportan o qué medidas de protección implementan cuando sus sistemas alcanzan determinados niveles de capacidad.
El debate también involucra a Anthropic
La petición de OpenAI llega mientras otros investigadores y compañías están planteando preocupaciones similares.
Recientemente, Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, abandonó esta última compañía y criticó la velocidad con la que las empresas están desarrollando sistemas cada vez más avanzados.
Evan Hubinger, investigador de Anthropic especializado en alineamiento, también ha expresado públicamente preocupaciones sobre el riesgo de que una inteligencia artificial futura pueda superar la capacidad humana para controlarla.
Estas declaraciones han contribuido a incrementar la presión sobre Washington para establecer nuevas reglas.
Incluso dentro de OpenAI hay llamados a reducir el ritmo
La discusión no se limita a las áreas de política pública.
El científico jefe de OpenAI, Jakub Pachocki, ha advertido que la sociedad podría no estar preparada para las consecuencias de sistemas de IA cada vez más capaces y ha planteado la necesidad de desacelerar determinados avances si las salvaguardas no evolucionan al mismo ritmo.
Más recientemente, el CEO de OpenAI, Sam Altman, habría comunicado a empleados que la compañía está abierta a ralentizar el desarrollo de sus sistemas de IA, de acuerdo con un reporte de Bloomberg citado por Reuters.
El cambio resulta significativo porque durante años la competencia por desarrollar modelos cada vez más potentes ha sido uno de los principales motores de la industria.
¿Esto significa que Estados Unidos regulará pronto la IA?
No necesariamente.
La propuesta de OpenAI representa una postura de la empresa y no significa que el Congreso haya aprobado estas reglas.
Además, los legisladores estadounidenses todavía enfrentan desacuerdos sobre cuál debería ser el alcance de una regulación federal de inteligencia artificial.
Algunos legisladores están impulsando controles mucho más estrictos ante los riesgos de sistemas avanzados, mientras que otros priorizan mantener la velocidad de innovación estadounidense frente a la competencia tecnológica de China.
También existen dudas sobre cómo definir legalmente qué constituye un «modelo de frontera», qué capacidades deberían activar obligaciones regulatorias y quién tendría autoridad para realizar las evaluaciones.
OpenAI quiere que Estados Unidos marque el estándar
La compañía considera que el debate ya llegó a un punto en el que esperar a tener un marco regulatorio perfecto podría ser contraproducente.
Su propuesta plantea avanzar con requisitos obligatorios que puedan actualizarse conforme evolucionen las capacidades de los sistemas.
La apuesta también tiene una dimensión internacional.
OpenAI argumenta que los modelos, investigadores y conocimientos técnicos atraviesan fronteras, por lo que los sistemas más avanzados no pueden gestionarse únicamente mediante reglas nacionales. La compañía considera que Estados Unidos debería establecer estándares internos creíbles que puedan servir posteriormente como base para acuerdos internacionales.
La paradoja de regular una tecnología que todavía está evolucionando
La petición de OpenAI plantea una paradoja interesante.
La misma industria que está desarrollando modelos cada vez más capaces está pidiendo ahora que determinadas partes de ese desarrollo estén sujetas a reglas obligatorias.
Pero el desafío será decidir qué debe regularse, a partir de qué nivel de capacidad y quién debe determinar si una IA representa un riesgo suficiente para activar controles adicionales.
El debate probablemente será todavía más intenso conforme los sistemas puedan ejecutar más tareas de manera autónoma.
Por ahora, OpenAI ya dejó clara su posición: para los modelos más avanzados, la seguridad no debería depender únicamente de la voluntad de las empresas.
La compañía quiere que algunas de esas reglas estén escritas en la ley.
