La aparición de modelos de IA generativa, como ChatGPT, ha planteado un debate en el ámbito académico sobre la posibilidad de que los alumnos utilicen estas herramientas para hacer sus deberes.
La calidad de los textos generados por ChatGPT es tan alta que resulta difícil distinguir si fueron escritos por un humano o por la IA.
Sin embargo, un equipo de investigadores de la Universidad de Kansas ha desarrollado un algoritmo capaz de detectar textos científicos redactados por ChatGPT con una precisión superior al 99%.
En su estudio, entrenaron el algoritmo utilizando artículos científicos escritos por humanos y generaron un conjunto de artículos de IA sin sentido científico con el uso de ChatGPT.
Los investigadores encontraron diferencias clave entre los textos generados por la IA y los escritos por humanos, como la longitud de los párrafos, el vocabulario utilizado y la forma de citar referencias.
Este algoritmo fue capaz de detectar con precisión los artículos completos escritos por ChatGPT el 100% de las veces, aunque la precisión disminuyó ligeramente al analizar párrafos individuales. Aunque este detector se centró en textos científicos, los investigadores sugieren que la metodología podría aplicarse a otros campos.
Es importante tener en cuenta que el avance de los modelos de IA generativa es constante, y es probable que la detección de textos generados por nuevas versiones sea más difícil en el futuro.
ChatGPT indetectable
Existe un desafío continuo de adaptación entre la generación de contenido indistinguible de los humanos y la creación de herramientas de detección más precisas.
En relación con la solución propuesta por la Unión Europea para etiquetar imágenes generadas por IA, se plantea la posibilidad de que se implementen medidas similares para textos generados por IA.
Esto podría implicar la inclusión de un “autógrafo criptográfico” invisible en los textos generados, lo que permitiría la identificación y trazabilidad de los mismos. Sin embargo, queda por ver cómo se desarrollarán estas medidas y su aplicabilidad en la práctica.
También te puede interesar: ChatGPT llega al mundo de los smartphones
