¿Son fiables los detectores de textos generados con IA?

Sin embargo, su precisión y nivel de certeza han quedado en el centro del debate ético y técnico tras el caso del escritor canadiense Thélyson Orélien, acusado de emplear IA en su primera novela en Francia a partir de los resultados de una plataforma de detección.

Las acusaciones contra Orélien, rechazadas categóricamente por el autor, se originaron en redes sociales a través de un perfil anónimo que escaneó pasajes de la obra mediante el programa Pangram. El episodio puso de relieve las limitaciones operativas de unos sistemas que, aunque dirigidos principalmente al ámbito educativo y académico, comienzan a utilizarse como prueba pública en el sector editorial.

Funcionamiento técnico y margen de error en la detección

• Análisis de patrones: especialistas en procesamiento del lenguaje natural, como Thierry Poibeau, director de investigación en el Centro Nacional para la Investigación Científica de Francia (CNRS), señalan que estas herramientas operan mediante la búsqueda de regularidades y "tics" sintácticos. Entre las señales más comunes destacan las estructuras ternarias o el uso frecuente de guiones largos, heredados de las bases de datos de entrenamiento compuestas por textos científicos y literarios anglosajones.

• Evolución y límites: pese a que la mayoría de los desarrolladores comerciales prometen índices de fiabilidad superiores al 99 %, empresas del sector como WinstonAI o Pangram aclaran que sus diagnósticos no deben considerarse veredictos definitivos. Max Spero, director general de Pangram, indicó a medios internacionales que la herramienta constituye únicamente un punto de partida para análisis más profundos.

Analistas advierten además sobre la dificultad de aplicar estos algoritmos a la literatura de ficción. Dado que los modelos generativos mutan constantemente para imitar el lenguaje natural, los programas pueden confundir rasgos estilísticos, repeticiones deliberadas o construcciones poéticas propias de la voz de un autor con marcas de automatización digital.

 NULL

    

FUENTE: Con información de AFP