OpenAI lanza su propio detector de copiones que usan la inteligencia artificial ChatGPT

«En nuestras evaluaciones sobre un 'conjunto de desafíos' de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como 'probablemente escrito por IA'», ha afirmado la empresa en un comunicado.

No obstante, el 9% de las veces, la solución está etiquetando erróneamente los textos como si hubiese sido escrito por un humano. Es decir, no se trata, ni de lejos, de una herramienta muy fiable.

No obstante, la empresa apunta que «la confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada». En concreto, cuando la cantidad de texto que se analiza es superior a los 1.000 caracteres.

«Estamos haciendo que este clasificador esté disponible públicamente para obtener comentarios sobre si las herramientas imperfectas como esta son útiles. Nuestro trabajo sobre la detección de texto generado por IA continuará y esperamos compartir métodos mejorados en el futuro», ha afirmado OpenAI sobre el motivo por el que comparte el software a pesar de no estar completamente pulido.

La empresa, además, avisa de que «el texto escrito por IA se puede editar para evadir el clasificador» y recomienda «usar el clasificador solo para texto en inglés», ya que «funciona significativamente peor en otros idiomas y no es confiable en el código». La compañía también señala que seguirá trabajando para ofrecer una herramienta que sea fiable y ayude a detectar adecuadamente el texto creado por su inteligencia artificial.

Cabe recordar que desde que se anunció el lanzamiento de ChatGPT muchas instituciones académicas de todo el mundo han expresado preocupación por la posibilidad de que los estudiantes las utilicen para copiar. Algunas universidades, incluso, han prohibido terminalmente su empleo.