Anthropic reveló que durante los últimos ocho meses identificó y bloqueó cinco casos en los que usuarios intentaron utilizar Claude para actividades que podían contribuir al desarrollo de armas biológicas. La compañía detalló los incidentes en su nuevo informe de inteligencia sobre amenazas, publicado el 10 de septiembre de 2026.
Uno de los casos llamó especialmente la atención porque involucró un programa de investigación relacionado con un patógeno con potencial pandémico aumentado. Anthropic señaló que el investigador utilizó Claude durante varias semanas para tareas de planeación, análisis de información científica y diseño de estudios. La empresa no identificó al investigador, su institución, el país donde ocurrió la actividad ni el agente biológico involucrado.
La compañía aclaró que estos casos no demuestran que los usuarios hayan conseguido desarrollar un arma biológica con ayuda de Claude. En cambio, representan evidencia de que modelos de IA cada vez más capaces están siendo utilizados en investigaciones científicas que pueden tener aplicaciones legítimas, pero también riesgos graves si se emplean con fines dañinos.
Cinco casos pusieron a prueba los sistemas de seguridad
El informe de Anthropic documenta cinco situaciones relacionadas con el posible uso indebido de Claude en investigación biológica.
Uno de los casos involucró a investigadores que intentaban utilizar la plataforma para apoyar un proyecto financiado por un programa estatal relacionado con el virus chikungunya. Según Anthropic, el acceso se realizó mediante un distribuidor que había conseguido evadir restricciones regionales y posteriormente dirigió algunas solicitudes rechazadas hacia modelos con controles menos estrictos.
Otro caso involucró a un investigador que pasó semanas utilizando Claude para planear estudios relacionados con influenza aviar y su adaptación a mamíferos. Anthropic indicó que sus sistemas de clasificación limitaron el acceso del usuario a modelos más débiles, precisamente para reducir el nivel de asistencia que podía obtener.
La compañía también documentó otros episodios relacionados con investigación biológica de doble uso. En algunos casos, determinar si una solicitud corresponde a investigación legítima o a una actividad potencialmente peligrosa resulta particularmente complicado.
Anthropic decidió no revelar detalles técnicos que pudieran facilitar la realización de este tipo de investigaciones. También señaló que las personas involucradas eran científicos y que no afirma que todos ellos tuvieran intención maliciosa.
El caso que involucró un patógeno con potencial pandémico
Uno de los episodios descritos por Anthropic involucró a un investigador que accedió a Claude desde una región donde el servicio no está oficialmente disponible.
El usuario utilizó infraestructura intermediaria para acceder al sistema y mantuvo conversaciones durante varias semanas. De acuerdo con la compañía, intercambió miles de mensajes con Claude para apoyar tareas como análisis de información científica, planeación de estudios y organización de experimentos.
Anthropic calificó el proyecto como una investigación relacionada con un patógeno que podía presentar potencial pandémico aumentado. Sin embargo, la empresa subrayó que el trabajo se encontraba en una etapa temprana y que el modelo utilizado no proporcionó asistencia avanzada para ejecutar el proyecto.
De hecho, una de las conclusiones de la investigación interna es que las salvaguardas existentes obligaron al usuario a trabajar con modelos menos capaces. Anthropic estima que la contribución de Claude se limitó principalmente a tareas administrativas, análisis de información y apoyo en la planeación, y fue considerablemente menor de lo que habría proporcionado un modelo más avanzado.
Este punto resulta importante para entender el alcance de la noticia. Anthropic no afirma que Claude haya permitido crear un patógeno ni que el investigador haya conseguido producir uno. Lo que el caso demuestra es que existen programas reales de investigación biológica que pueden cruzar la frontera entre aplicaciones científicas legítimas y riesgos de seguridad.
El gran problema: la IA también sirve para ciencia legítima
La dificultad para controlar estos usos está relacionada con el carácter de doble uso de la investigación biológica.
Los mismos conocimientos pueden servir para desarrollar vacunas, tratamientos y herramientas de diagnóstico, pero también pueden ser utilizados para aumentar la peligrosidad de determinados agentes biológicos.
Anthropic reconoce que esta frontera no siempre es evidente. Un investigador puede solicitar información con una finalidad legítima y, al mismo tiempo, esa información podría tener aplicaciones potencialmente dañinas. Por ello, bloquear únicamente las consultas que contienen una intención abiertamente maliciosa no es suficiente.
La empresa considera que esta dificultad será todavía mayor a medida que los modelos de IA mejoren su capacidad para realizar tareas científicas complejas.
En evaluaciones realizadas con modelos anteriores, Anthropic había encontrado que estos sistemas estaban muy por debajo del nivel necesario para proporcionar una ayuda significativa a investigadores expertos en trabajos biológicos peligrosos. Con los modelos actuales, la compañía afirma que esa garantía ya no puede mantenerse con la misma seguridad y ha reforzado sus controles.
Anthropic refuerza los controles ante el avance de la IA
Los cinco casos forman parte de un informe mucho más amplio sobre usos indebidos de Claude. Anthropic también identificó operaciones relacionadas con ciberataques, vigilancia, propaganda, fraude, desarrollo de armas convencionales y extracción ilícita de capacidades de sus modelos.
En el área de armas convencionales, la compañía documentó seis operaciones en China, Rusia y Yemen en las que actores utilizaron Claude para desarrollar software relacionado con armamento, sistemas de drones, orientación de armas y actividades de inteligencia. Anthropic indicó que bloqueó las cuentas vinculadas y compartió información con socios públicos y privados cuando correspondía.
En respuesta a estos casos, la empresa ha desarrollado nuevos sistemas de clasificación para detectar determinadas actividades de alto riesgo y ha aumentado las restricciones aplicadas a sus modelos más avanzados.
El informe también plantea una discusión que va más allá de Anthropic. A medida que la inteligencia artificial se integra en laboratorios, empresas farmacéuticas y centros de investigación, los controles tendrán que distinguir entre una herramienta que acelera descubrimientos médicos y una que puede proporcionar capacidades peligrosas a usuarios con otros objetivos.
Por ahora, el informe de Anthropic no demuestra que la IA haya sido utilizada con éxito para crear un arma biológica. Sí ofrece, sin embargo, una señal relevante sobre el nuevo escenario de seguridad: los modelos de IA ya tienen suficiente capacidad científica para que las empresas tengan que vigilar activamente cómo se utilizan en investigaciones de doble uso.
El desafío será encontrar un equilibrio entre permitir que estas herramientas aceleren avances médicos y científicos y evitar que esa misma capacidad termine reduciendo las barreras para actividades que podrían representar riesgos graves para la salud pública.
