El auge de la inteligencia artificial generativa está sembrando los deberes escolares, los trabajos universitarios y las publicaciones corporativas e informativas de textos escritos por inteligencia artificial. Esta tendencia pone bajo sospecha la autenticidad, la originalidad y la veracidad del contenido en un contexto en el que cada vez se valora más la transparencia acerca de la verdadera autoría de la información que se consume en Internet.
Ante esta necesidad, proliferan las aplicaciones de detección de inteligencia artificial que afirman ser capaces de identificar con precisión si un texto o una imagen han sido generados por un ser humano o no. Estas plataformas son especialmente populares en los entornos educativos, empresariales y periodísticos, para los que urge ser capaces de distinguir si los contenidos que reciben cumplen con los criterios de calidad establecidos.
Sin embargo, aunque la tentación de fiarse ciegamente de estas herramientas es muy poderosa, presentan varios riesgos que hay que tener en cuenta antes de utilizarlas.
La propia web de Sapling, una de las aplicaciones de detección de IA, hace esta advertencia: «Ningún detector de contenido de IA actual (incluido el de Sapling) debe usarse como verificación independiente para determinar si el texto es generado por IA o escrito por un humano. Con frecuencia se producirán falsos positivos y falsos negativos».
Estos resultados falsos tienen que ver con la manera en la que estas aplicaciones determinan la autoría de los textos. Los criterios usados no siempre están claros, pero los que sí se conocen revelan que los procesos de identificación contienen lagunas importantes.
Estas herramientas usan criterios que no siempre están claros
Por ejemplo, estas herramientas están diseñadas para examinar patrones del lenguaje, de la estructura del texto e incluso la formalidad o informalidad del tono general del contenido para detectar características propias de la IA generativa. Sin embargo, esto provoca que los textos más complejos, técnicos y divulgativos, como, por ejemplo, los académicos, tengan más probabilidades de ser marcados como contenido generado por IA.
Otro sistema que utilizan algunas aplicaciones de detección consiste en identificar si el código del texto procede de una plataforma de IA. Sin embargo, esto puede dar como resultado que se etiqueten mal textos generados por un ser humano, pero que hayan pasado para una plataforma de IA para cuestiones de edición, traducción o corrección de erratas, entre otras. De hecho, varias universidades, como Vanderbilt, han dejado de utilizar el software de detección de IA alegando falta de precisión.
Varias universidades han dejado de utilizar el software de detección de IA alegando falta de precisión
Laura Dunim, directora del programa de escritura técnica en la Universidad de Oklahoma y especializada en el impacto que la IA generativa tendrá sobre la escritura, señala en su blog algunas de las razones por las que no confía en las aplicaciones de detección: «Estos programas son bastante fáciles de engañar si usas un programa para escribir una tarea y otro que te la reescriba para que suene más humano. Estos programas detectan el uso de Grammarly, una aplicación de IA, pero yo mantengo que hacer que un programa corrija tu gramática es muy diferente a hacer que un programa de IA escriba tu trabajo por ti».
Teniendo todo esto en cuenta, presentamos una selección de los cinco programas de detección de IA más populares en la actualidad.
Copyleaks
Puede detectar una amplia gama de contenido generado por IA y puede ser utilizado como una extensión del navegador. Además, es capaz de analizar varios idiomas, examina el código fuente del contenido analizado y ofrece un informe detallado de sus resultados.
Originality AI
Sin opción gratuita, este programa suele estar entre los mejor valorados en términos de precisión. Está más dirigido al entorno de la publicación de contenido y del marketing y asegura no solo detectar la IA, sino también la calidad del contenido, la veracidad de los datos y el plagio.
ChatGPT
Quizá la herramienta más usada para un diagnóstico rápido es el propio ChatGPT. Pegando el texto y pidiéndole a la plataforma un informe que argumente si considera que ese texto ha sido escrito por una IA, el usuario obtendrá un diagnóstico en pocos segundos. Esta plataforma no aporta un porcentaje, sino que simplemente desglosa las características del texto que parecen generadas de manera automática.
Turnitin
La más utilizada en entornos académicos, a pesar de que ha sufrido un pequeño golpe reputacional debido al número de falsos positivos en sus resultados. Turnitin analiza el plagio y el contenido generado por IA y, debido a que ha sido entrenada en el ámbito escolar y universitario, suele tener más precisión sobre este tipo de textos.
ZeroGPT
Accesible y fácilmente utilizable, esta plataforma es compatible con varios idiomas y puede ser incorporada a otro programas y aplicaciones para identificar IA en tiempo real mientras navegas. La herramienta ofrece un porcentaje de probabilidad de que el texto haya sido generado por un humano y resalta sobre los pasajes que sospecha han sido creados por una IA.
