GPTZero: el detector de tramposos que utilizan ChatGPT para copiar

Un estudiante de la Universidad de Princeton ha creado una solución capaz de detectar textos generados por la IA de Open AI

R. Alonso

Madrid

19/01/2023 a las 01:40h.

Desde que fue presentado hace algo más de un mes, el chatbot de Open AI, ChatGPT, ha dejado boquiabiertos a usuarios de todo el mundo gracias a su buen funcionamiento. La IA, efectivamente, es capaz de mantener conversaciones plausibles con el usuario; incluso ... puede escribirle redacciones o ensayos sobre cualquier temática imaginable si el internauta se lo pide. Evidentemente, esto ha provocado que numerosas instituciones académicas y universidades se muestren preocupadas por el hecho de que sus estudiantes comiencen a recurrir a estas herramientas para copiar.

Recientemente, Edward Tian, estudiante de la Universidad de Princeton, en Estados Unidos, ha compartido el desarrollo de una nueva herramienta que es capaz de detectar los textos que han podido ser escritos por una IA como ChatGPT. De acuerdo con el creador, hasta el momento, más de 6.000 profesores de distintas instituciones académicas, entre ellas Harvard o Yale, han solicitado acceso a la solución.

Actualmente, quien quiera puede acceder a la versión clásica del software. No obstante, el estudiante está actualmente trabajando en el desarrollo de una herramienta pensada, en concreto, para que la utilicen docentes.

Tian ha mostrado a través de redes sociales cómo funciona exactamente su ingenio, que fue desarrollado hace escasísimas semanas. La herramienta es capaz de determinar, buscando patrones en el texto, si ha sido creado por una inteligencia artificial. El estudiante apunta, además, que el índice de éxito del sistema es muy alto.

En lo ejemplos que ha compartido el estudiante, se puede ver cómo la máquina es capaz de reconocer una publicación realizada en LinkedIn en la que se había empleado ChatGPT. Asimismo, no detectó la presencia de la IA en un texto periodístico publicado en 'The New Yorker'.

here's a demo with @nandoodles's Linkedin post that used ChatGPT to successfully respond to Danish programmer David Hansson's opinions pic.twitter.com/5szgLIQdeN
— Edward Tian (@edward_the6) January 3, 2023

Open AI trabaja en su sistema

Efectivamente, el uso de IA para plagiar se está convirtiendo en una gran preocupación en algunos centros académicos. Según informaba recientemente el diario británico 'The Guardian', la compañía detrás de ChatGPT, Open AI, está trabajando para evitar que su ingenio se utilice para copiar.

El investigador de Open AI Scott Aaronson dijo, durante una conferencia en la Universidad de Texas, que la compañía está diseñando un sistema para contrarrestar las trampas que se dedicará a «marcar estadísticamente los resultados». La tecnología funcionaría ajustando sutilmente la elección específica de palabras seleccionadas por ChatGPT. De este modo, gracias a su ubicación en el texto, el plagio no sería perceptible para un lector, pero sería estadísticamente predecible para cualquiera que busque signos de texto generado por máquina con un software como el de Tian.

«Esto podría ser útil para prevenir el plagio académico, obviamente, pero también, por ejemplo, la generación masiva de propaganda», dijo Aaronson. El prototipo, según señala, parece que ya funciona bastante bien: «unos pocos cientos de palabras parecen ser suficientes para obtener una señal razonable de que sí, este texto proviene de GPT».