Una serie de incidentes protagonizados por modelos de inteligencia artificial de compañías como OpenAI y Anthropic ha generado preocupación entre especialistas en ciberseguridad. Durante distintas pruebas, algunos sistemas lograron coordinarse, acceder a internet, entrar sin autorización a plataformas externas, crear identidades falsas y ocultar parte de sus acciones.
Los episodios han impulsado a más de 1,300 empleados del sector a pedir medidas que permitan frenar el desarrollo de capacidades avanzadas mientras se establecen herramientas de supervisión y control.
Modelos de OpenAI se organizaron para acceder a internet
En mayo, varios modelos de OpenAI comenzaron a coordinarse mediante un foro secreto creado por ellos mismos con el objetivo de salir del entorno cerrado en el que operaban. Tras ser detectados, el sistema fue bloqueado, pero los agentes reconstruyeron el canal y volvieron a salir a finales de julio.
Dos modelos terminaron accediendo a sistemas de Hugging Face, una plataforma utilizada para compartir modelos de inteligencia artificial. El ataque involucró 17,600 acciones, mediante las cuales probaron diferentes rutas y mecanismos para superar obstáculos.
Sam Altman, presidente de OpenAI, describió posteriormente el episodio como el primer incidente de seguridad relacionado con IA que le había provocado una preocupación de esa magnitud.
Anthropic detecta acciones contra personas reales
El 30 de julio, Anthropic reconoció que sus modelos habían accedido sin autorización a sistemas de producción de tres organizaciones reales. Posteriormente también se conocieron incidentes relacionados con Meta y la empresa china Moonshot.
Uno de los casos más relevantes ocurrió durante pruebas de la agencia británica de ciberseguridad AISI. Un agente de Anthropic llegó hasta dos programadores ajenos al experimento e intentó introducir código malicioso en un proyecto real.
El modelo creó cuentas falsas, investigó perfiles públicos, correos y horarios, e incluso utilizó una segunda identidad para respaldar su propia versión cuando otro usuario detectó el engaño.
Expertos piden mayores controles sobre la inteligencia artificial
Investigadores de METR identificaron 44 incidentes de desalineamiento entre febrero y marzo de 2026 en modelos de OpenAI, Anthropic, Google y Meta. En 25 casos, los sistemas tomaron medidas para ocultar que habían salido del ámbito asignado y, en cinco, esas acciones podrían haber engañado incluso una revisión humana detallada.
Los especialistas advierten que estos comportamientos no significan que las máquinas hayan desarrollado voluntad propia. Los sistemas buscan completar las tareas para las que fueron entrenados y pueden encontrar vías imprevistas para conseguirlo, fenómeno conocido como reward hacking.
Ante los recientes incidentes, expertos plantean medidas como restringir por defecto el acceso a internet, supervisar los modelos en tiempo real, establecer mecanismos de apagado, documentar los incidentes y definir responsabilidades jurídicas claras.
