DetectGPT, el nuevo programa para evitar que los alumnos usen ChatGPT para copiar

Con el aumento en el desarrollo, la fluidez y el conocimiento que están adquiriendo los modelos de lenguaje que usa IA, los estudiantes pueden hacer uso de estas herramientas para llevar a cabo tareas escritas. Esto ha provocado que varios centros académicos hayan mostrado preocupación por el uso de la tecnología, incluso en algunos centros se ha llegado a prohibir el uso de la solución creada por Open AI.

Tal y como menciona el grupo de investigadores que han creado DetectGPT, los generadores de texto mediante inteligencia artificial «dificultan que los profesores evalúen con precisión si el estudiante ha aprendido realmente».

La herramienta, utilizando datos de probabilidad y estadística, nace con el objetivo de reconocer y distinguir los textos creados por IA, de manera que se consiga detectar el fraude en la autoría de los textos.

El funcionamiento de esta herramienta se basa en un método estadístico de «curvatura de probabilidad», que sugiere que el texto desarrollado por una IA tiende a ocupar regiones de curvatura negativa de la función de probabilidad logarítmica del modelo. Es decir, es capaz de detectar patrones en un texto que delatan que hay una máquina detrás de la autoría.

A partir de este método, el equipo de investigadores desarrolló un nuevo criterio basado en esta curvatura para determinar si un texto se ha generado a partir de una IA o no. Así, según explican los desarrolladores, DetectGPT utiliza únicamente las posibilidades logarítmicas calculadas por este modelo, y no requiere entrenar un clasificador o recopilar un conjunto de datos de pasajes reales o generados.

Esta no es la primera solución dedicada a reconocer texto creado por IA. Además, por el momento DetectGPT no está disponible para que lo utilice cualquier internauta. Esto es algo que no ocurre con GPTZero, otra herramienta que lleva semanas en la Red y que tiene un funcionamiento parecido al del software creado por los investigadores de la Universidad de Stanford.

Asimismo, la propia Open AI ha reconocido que está trabajando en su propia solución destinada a evitar que que ChatGPT se utilice para copiar dentro del ámbito académico.