Bill Gates advirtió que la inteligencia artificial podría ampliar considerablemente la capacidad de pequeños grupos o personas malintencionadas para realizar ciberataques, fraudes o acciones relacionadas con bioterrorismo, por lo que pidió incorporar sistemas de monitoreo y mecanismos de seguridad directamente dentro de los modelos más avanzados.
El cofundador de Microsoft realizó las declaraciones durante una entrevista con Meet the Press de NBC News, en medio del debate internacional sobre hasta dónde deben llegar las medidas de seguridad y supervisión de las herramientas de inteligencia artificial.
Gates considera que la amenaza inmediata está en el mal uso de la IA
El empresario señaló que una de sus mayores preocupaciones no se encuentra únicamente en escenarios hipotéticos de sistemas autónomos fuera de control, sino en personas que utilicen las capacidades actuales de la inteligencia artificial para realizar actividades dañinas.
Entre los ejemplos mencionó estafas, ataques contra redes eléctricas, alteraciones de cuentas bancarias y posibles armas relacionadas con bioterrorismo.
Gates sostuvo que capacidades que anteriormente estaban principalmente al alcance de grandes Estados podrían eventualmente estar disponibles para grupos mucho más pequeños gracias a sistemas avanzados de IA.
Plantea monitoreo permanente en laboratorios de IA
Como medida preventiva, Gates defendió sistemas de supervisión capaces de registrar qué hacen los modelos y sus agentes.
A su juicio, ese monitoreo permitiría detectar comportamientos peligrosos y proporcionaría información a las autoridades en caso de incidentes graves.
También señaló que estas medidas de protección pueden incorporarse sin necesariamente frenar el desarrollo tecnológico.
El debate ocurre mientras empresas dedicadas a inteligencia artificial analizan mecanismos para supervisar con mayor detalle el comportamiento de agentes capaces de ejecutar tareas de manera autónoma.
Un interruptor de emergencia podría no ser suficiente
Una de las propuestas discutidas en Estados Unidos contempla la existencia de un mecanismo de apagado o interruptor de emergencia que permita suspender sistemas de inteligencia artificial cuando se detecte una situación peligrosa.
Gates consideró que una herramienta de este tipo podría ser útil, pero sostuvo que por sí sola no resolvería el problema.
Argumentó que, para comprender un incidente y poder intervenir, sería necesario disponer de registros, monitoreo y sistemas capaces de identificar qué estaba haciendo una IA antes de la emergencia.
La coordinación internacional será uno de los grandes retos
Gates también defendió la participación de los gobiernos en la supervisión del desarrollo de inteligencia artificial.
El empresario considera que alcanzar acuerdos globales puede resultar especialmente complejo debido a la competencia tecnológica entre países y empresas.
Durante la entrevista planteó que Estados Unidos debería buscar mecanismos de cooperación internacional similares a los desarrollados históricamente ante desafíos relacionados con seguridad global.
Su posición se suma a un debate en el que participan empresas tecnológicas, gobiernos, legisladores e investigadores sobre qué reglas pueden reducir riesgos graves sin impedir los potenciales beneficios de la inteligencia artificial.
Gates también destacó aplicaciones positivas de esta tecnología en ámbitos como salud, educación y desarrollo internacional, y explicó que su fundación trabaja para mejorar el funcionamiento de modelos de IA en idiomas que actualmente presentan tasas de error superiores a las observadas en inglés.
