La rápida expansión de la inteligencia artificial entre niños y adolescentes genera nuevas preocupaciones sobre seguridad digital. Tom Siegel, fundador del equipo de confianza y seguridad de Google y exvicepresidente de esa área, advirtió que la IA podría generar riesgos incluso mayores para los menores que los registrados durante el auge de las redes sociales.
En declaraciones a Reuters, Siegel cuestionó que las empresas tecnológicas puedan resolver por sí mismas los problemas de seguridad asociados con estas herramientas y pidió establecer evaluaciones independientes, controles de edad más estrictos y medidas específicas para proteger a los usuarios jóvenes.
La advertencia llega mientras los principales desarrolladores de IA incorporan funciones cada vez más avanzadas a sus chatbots y millones de personas, incluidos menores, utilizan estas herramientas para buscar información, estudiar, crear contenido y conversar.
Tom Siegel ahora dirige un instituto dedicado a la seguridad de los menores
Después de trabajar en Google entre 2004 y 2019, Siegel pasó a desarrollar herramientas relacionadas con la seguridad digital y recientemente se incorporó a Common Sense Media, organización dedicada a estudiar el impacto de los medios y la tecnología en niños y familias.
En mayo de 2026, Common Sense Media lanzó el Youth AI Safety Institute, un organismo de investigación enfocado específicamente en analizar cómo utilizan los menores las herramientas de inteligencia artificial. Siegel asumió como su primer director ejecutivo.
Entre los patrocinadores del instituto se encuentran Anthropic y la OpenAI Foundation, según Reuters. El objetivo es desarrollar estándares que permitan evaluar los riesgos de las herramientas de IA y establecer criterios para exigir mayor responsabilidad a las compañías que las desarrollan.
Siegel plantea que estos estándares deberían ser independientes de las empresas tecnológicas. Una de las ideas que ha mencionado es crear evaluaciones comparables, en términos de seguridad, con las pruebas que se realizan a los automóviles antes de que lleguen al mercado.
¿Qué riesgos de la IA preocupan cuando se trata de niños?
La preocupación del exdirectivo de Google no se limita a que los menores encuentren contenido inadecuado. Su advertencia abarca posibles efectos relacionados con la manera en que los niños interactúan con sistemas capaces de mantener conversaciones personalizadas.
Entre los escenarios que mencionó están problemas relacionados con suicidio, psicosis y la llamada descarga cognitiva. Este último concepto se refiere a la tendencia a delegar determinadas tareas mentales en herramientas externas, en este caso sistemas de inteligencia artificial.
La descarga cognitiva no significa que utilizar IA provoque automáticamente una pérdida del pensamiento crítico. La preocupación consiste en que un uso excesivamente dependiente podría llevar a algunas personas a delegar de manera constante tareas que normalmente requieren análisis, memoria, investigación o resolución de problemas.
En el caso de niños y adolescentes, el tema adquiere especial relevancia porque sus habilidades cognitivas y criterios para evaluar información todavía están en desarrollo.
La comparación con las redes sociales
Siegel considera que la industria de inteligencia artificial podría estar repitiendo algunos de los problemas que acompañaron el crecimiento de las redes sociales.
Las plataformas sociales han enfrentado durante los últimos años demandas y cuestionamientos relacionados con sus posibles efectos sobre los usuarios menores de edad. Al mismo tiempo, distintos gobiernos han comenzado a implementar o discutir medidas para limitar el acceso de niños y adolescentes a determinados servicios.
Desde la perspectiva de Siegel, esperar a que las compañías de IA desarrollen voluntariamente todas las medidas de seguridad necesarias podría resultar insuficiente.
Su argumento no plantea que la inteligencia artificial sea perjudicial en todos los casos. De hecho, durante una entrevista con Reuters señaló que no considera que todo lo relacionado con esta tecnología sea negativo, pero sostuvo que existen indicios suficientes para evaluar con mayor cuidado sus posibles efectos en grupos vulnerables.
Propone controles de edad más estrictos
Una de las medidas que Siegel considera necesarias es reforzar la verificación de edad en los servicios de inteligencia artificial.
De acuerdo con su planteamiento, compañías como OpenAI y Anthropic podrían implementar mecanismos más estrictos para impedir que menores accedan a determinados chatbots o funciones diseñadas para usuarios adultos.
La dificultad está en que comprobar la edad de una persona en internet no es un proceso sencillo. Los sistemas basados exclusivamente en información proporcionada por el usuario pueden ser insuficientes, mientras que mecanismos más estrictos también plantean preguntas sobre privacidad y protección de datos.
Por ello, el debate no consiste únicamente en verificar la edad, sino en encontrar mecanismos que permitan hacerlo sin crear nuevos problemas de privacidad o exclusión.
También pidió más controles en los buscadores
Siegel señaló que Google podría ofrecer mecanismos para que los padres desactiven determinadas funciones de inteligencia artificial de su buscador para los usuarios menores.
Entre ellas mencionó AI Overviews y AI Mode, herramientas que incorporan respuestas generadas mediante inteligencia artificial a las búsquedas. Según su planteamiento, los usuarios deberían contar con opciones más claras para decidir si quieren utilizar estas funciones.
Google respondió a los señalamientos indicando que los padres cuentan con controles para impedir completamente el acceso de sus hijos al buscador. Posteriormente, la empresa añadió que sus herramientas de IA pasan por procesos de evaluación enfocados en cuestiones relacionadas con la seguridad infantil.
Por su parte, OpenAI señaló que utiliza señales relacionadas con las cuentas y el comportamiento, además de la edad declarada por los usuarios, para identificar posibles cuentas pertenecientes a menores. La compañía reconoció que ningún método de verificación de edad es perfecto y aseguró que continúa trabajando para mejorar estos sistemas.
El reto será evaluar la IA antes de que los riesgos sean mayores
La discusión plantea un problema que va más allá de restringir el acceso de los menores a la tecnología. La inteligencia artificial ya se utiliza en contextos educativos, creativos y de entretenimiento, por lo que el desafío consiste también en determinar qué herramientas son apropiadas para cada edad y qué medidas de protección deben acompañarlas.
Para Siegel, una parte de la solución pasa por contar con evaluaciones independientes que permitan medir los riesgos de cada sistema antes de que llegue a una gran cantidad de usuarios.
El Youth AI Safety Institute busca avanzar precisamente en esa dirección mediante investigación y estándares de seguridad para herramientas de IA dirigidas o accesibles a jóvenes.
Mientras las empresas continúan incorporando nuevas capacidades a sus modelos, el debate sobre la seguridad infantil se concentra cada vez más en una pregunta: cómo permitir que niños y adolescentes aprovechen las posibilidades de la inteligencia artificial sin dejar su protección únicamente en manos de las compañías que desarrollan estas tecnologías.
