DetectGPT, la herramienta capaz de detectar si un texto ha sido creado por aplicaciones de IA como ChatGPT
Investigadores de la universidad de Standford han desarrollado DetectGPT, una herramienta que es capaz de detectar si un texto ha sido creado por una Inteligencia Artificial (IA), como ChatGPT, utilizando datos de probabilidad y estadística.
Con el aumento en el desarrollo, la fluidez y el conocimiento que están adquiriendo los modelos de lenguaje extenso, los estudiantes pueden hacer uso de estas herramientas para llevar a cabo tareas escritas. Tal y como menciona el grupo de investigadores que han creado DetectGPT, "esto dificulta que los profesores evalúen con precisión si el estudiante ha aprendido realmente".
En este sentido, una de las herramientas de IA que más sobresale es ChatGPT desarrollada por OpenAI, ya que presenta prestaciones muy eficaces a la hora de generar textos coherentes y con una alta capacidad de redacción, lo que consigue llevar a acabo un trabajo extenso con tan solo dar unas instrucciones y un clic.
En este marco, se ha creado DetectGPT, la herramienta que nace con el objetivo de reconocer y distinguir los textos creados por IA, de manera que se consiga detectar el fraude en la autoría de los textos.
El funcionamiento de esta herramienta se basa en un método estadístico de "curvatura de probabilidad", que sugiere que el texto desarrollado por una IA tiende a ocupar regiones de curvatura negativa de la función de probabilidad logarítmica del modelo.
A partir de este método, el equipo de investigadores desarrolló un nuevo criterio basado en esta curvatura para determinar si un texto se ha generado a partir de una IA o no.
Así, según explican los desarrolladores, DetectGPT utiliza únicamente las posibilidades logarítmicas calculadas por este modelo, y no requiere entrenar un clasificador o recopilar un conjunto de datos de pasajes reales o generados.
Conforme a los criterios de
Conocé The Trust Project
