Inicio Tecnología Detectores de IA no pueden confirmar quién escribió un texto

Detectores de IA no pueden confirmar quién escribió un texto

0
60
- Publicidad -

Los detectores de textos generados con inteligencia artificial pueden identificar patrones asociados con herramientas como ChatGPT, Gemini o Claude, pero sus resultados no son una prueba definitiva de que un texto haya sido escrito por una IA. Las investigaciones más recientes muestran que estas herramientas pueden producir tanto falsos positivos, cuando señalan como artificial un texto humano, como falsos negativos, cuando no detectan contenido generado por un modelo.

El debate volvió a cobrar relevancia en septiembre de 2026 después de que el escritor canadiense Thélyson Orélien fuera señalado por supuestamente utilizar inteligencia artificial para escribir su primera novela, acusación que el autor ha negado. Uno de los argumentos utilizados para analizar el caso fueron los resultados de herramientas de detección de IA.

El episodio refleja una cuestión cada vez más frecuente: ¿qué tan confiable es un porcentaje que asegura que un texto fue generado por inteligencia artificial?

¿Cómo funcionan los detectores de IA?

Estas herramientas no pueden observar el proceso mediante el cual se escribió un texto. En realidad, analizan sus características lingüísticas y estadísticas para determinar si se parecen a las que suelen aparecer en textos generados por modelos de lenguaje.

Entre los elementos que pueden considerar están la elección de palabras, la estructura de las oraciones, la repetición de determinados patrones, la previsibilidad del lenguaje y la variación en la longitud de las frases. Algunos sistemas utilizan conceptos como la perplejidad, relacionada con qué tan predecible resulta una secuencia de palabras, y la llamada burstiness, que observa variaciones en la estructura del texto.

El problema es que estas características no pertenecen exclusivamente a la inteligencia artificial.

Una persona puede escribir de manera muy estructurada, utilizar un vocabulario predecible o mantener oraciones con una longitud similar. Un detector puede interpretar esos patrones como señales de generación automática aunque el texto haya sido escrito completamente por una persona.

Por eso, un resultado como «80% IA» no significa que exista una probabilidad comprobada de 80% de que una máquina haya escrito el texto. Es una estimación producida por el propio sistema, basada en las características que analiza.

Los falsos positivos siguen siendo un problema

Uno de los principales riesgos es que un detector marque como generado por IA un texto que en realidad fue escrito por una persona.

Investigaciones publicadas durante 2026 han encontrado resultados diferentes dependiendo de la herramienta, el idioma, el tipo de texto y la metodología utilizada. Un estudio publicado en AI and Ethics en septiembre señaló que los detectores pueden producir falsos positivos y que sus resultados no deberían utilizarse como evidencia suficiente para determinar la autoría de un texto.

Otro trabajo publicado en junio de 2026, enfocado en herramientas utilizadas en educación superior, encontró que algunos detectores tuvieron un desempeño mucho más consistente que generaciones anteriores. Sin embargo, sus autores también concluyeron que los resultados deben funcionar como señales iniciales y no como única evidencia en decisiones de alto impacto.

El idioma también puede influir. Investigaciones anteriores habían documentado problemas particulares con textos escritos por personas que utilizan el inglés como segunda lengua, mientras que trabajos más recientes indican que las diferencias pueden variar considerablemente según el detector, el idioma y el conjunto de textos analizado.

También pueden fallar al detectar textos hechos con IA

El error funciona en ambas direcciones.

Un detector puede clasificar como humano un contenido generado artificialmente. Esto ocurre porque los modelos de lenguaje han mejorado y porque el texto puede haber sido revisado, editado o combinado con escritura humana.

Un análisis publicado en 2026 comparó tres detectores con textos humanos y contenido producido mediante modelos de IA. En una de las pruebas, los sistemas tuvieron mayores dificultades cuando los modelos generaban textos imitando el estilo de un autor a partir de ejemplos previos.

Esto plantea un problema importante para cualquier sistema que pretenda determinar la autoría únicamente a partir del resultado final: el mismo texto puede recibir clasificaciones diferentes dependiendo de la herramienta utilizada.

Además, los detectores se actualizan constantemente, por lo que un resultado obtenido hoy no necesariamente sería idéntico al que produciría el mismo servicio meses después.

Un porcentaje no demuestra que una IA escribió el texto

Esta es probablemente la distinción más importante.

Un detector puede decir que un documento presenta características compatibles con texto generado por IA. Eso es diferente de demostrar que una persona utilizó ChatGPT, Gemini u otro modelo para producirlo.

El investigador francés Thierry Poibeau explicó que estas herramientas buscan determinadas regularidades lingüísticas y que algunos patrones que anteriormente eran característicos de los textos generados por IA pueden desaparecer conforme los modelos mejoran.

Incluso empresas dedicadas a la detección reconocen esta limitación. Max Spero, director general y cofundador de Pangram, señaló en declaraciones citadas por The Atlantic que un detector no debería utilizarse como árbitro definitivo, sino como punto de partida para una investigación más amplia.

OpenAI también ha advertido sobre estas limitaciones

El problema no es nuevo. OpenAI desarrolló en 2023 una herramienta denominada AI Classifier para intentar distinguir textos generados por IA, pero terminó retirándola debido a su baja precisión.

La propia compañía advierte actualmente que los detectores no son suficientemente confiables para tomar decisiones importantes sobre la autoría de un texto. También señala que su propia investigación encontró casos en los que contenido escrito por humanos fue clasificado como generado por IA.

Esto incluye un problema particularmente relevante en contextos educativos: utilizar un detector como única prueba podría llevar a acusar injustamente a un estudiante de haber utilizado IA.

¿Entonces para qué sirven?

Que no sean una prueba definitiva no significa que carezcan completamente de utilidad.

Los detectores pueden utilizarse como una herramienta de apoyo para identificar textos que merecen una revisión adicional. Por ejemplo, un resultado inusual podría llevar a revisar el proceso de elaboración del documento, comparar versiones anteriores o conversar con el autor sobre cómo desarrolló el contenido.

En ámbitos académicos, algunas instituciones recomiendan precisamente ese enfoque. La UNED advierte que los detectores de IA pueden generar errores y que sus resultados deben interpretarse con cautela, sin utilizarlos como prueba concluyente ni como único criterio para tomar decisiones disciplinarias.

La revisión humana continúa siendo necesaria, especialmente cuando está en juego una consecuencia académica, laboral o profesional.

La detección se ha convertido en una carrera tecnológica

Existe además un problema estructural: los generadores y los detectores de IA evolucionan al mismo tiempo.

A medida que los modelos producen textos más naturales y variados, las señales utilizadas para identificarlos pueden volverse menos evidentes. Al mismo tiempo, los desarrolladores de detectores modifican sus modelos para reconocer nuevos patrones.

Un estudio publicado en mayo de 2026 concluyó que la manipulación o edición humana puede reducir la capacidad de los detectores para identificar contenido generado por IA y advirtió sobre el riesgo de obtener conclusiones incorrectas cuando se utiliza este tipo de software de manera aislada.

Por ello, la pregunta ya no es únicamente qué detector tiene el porcentaje de precisión más alto. También importa qué texto se está analizando, en qué idioma, con qué herramienta, bajo qué versión y para qué propósito se utilizará el resultado.

Detectar IA no es lo mismo que demostrar autoría

Los detectores pueden aportar información sobre las características de un texto, pero no pueden observar quién escribió cada oración ni reconstruir por sí mismos el proceso de creación.

La evidencia más sólida suele encontrarse en el contexto: borradores, historial de edición, fuentes utilizadas, versiones anteriores y explicación del propio autor sobre cómo desarrolló el contenido. Un porcentaje generado automáticamente puede formar parte de esa revisión, pero no debería confundirse con una prueba definitiva.

En un escenario donde la inteligencia artificial participa cada vez más en la escritura, edición y traducción, la frontera entre texto humano y texto generado también se vuelve menos sencilla de identificar. Por ahora, un detector puede señalar una posibilidad, pero no certificar por sí solo la autoría de un texto.

- Publicidad -