El propietario de ChatGPT lanza una herramienta ‘imperfecta’ para detectar texto generado por IA

31 ene (Reuters) – OpenAI, fabricante del popular chatbot ChatGPT, lanzó una herramienta de software para identificar texto generado por inteligencia artificial, dijo la compañía en una publicación de blog el miércoles.

ChatGPT es un programa gratuito que genera texto en respuesta a un mensaje, incluidos artículos, ensayos, chistes e incluso poesía, que ha ganado popularidad desde su debut en noviembre, al mismo tiempo que genera preocupaciones sobre los derechos de autor y el plagio.

Eso clasificador de IA, un modelo de lenguaje entrenado en una base de datos de pares de textos escritos por humanos y escritos por IA sobre el mismo tema, tiene como objetivo distinguir entre textos escritos por IA. Utiliza una variedad de proveedores para abordar problemas como campañas de desinformación automatizadas y deshonestidad académica, dijo la compañía.

En su modo beta público, OpenAI admite que la herramienta de detección es muy poco confiable en texto de menos de 1000 caracteres, y el texto escrito por IA se puede editar para engañar al clasificador.

«Estamos haciendo que este clasificador esté disponible públicamente para obtener comentarios sobre si herramientas tan imperfectas son útiles», dijo OpenAI.

«Reconocemos que la identificación de texto impulsada por IA ha sido un punto de discusión importante para los educadores, e igualmente importante es reconocer los límites y las implicaciones de los clasificadores de texto generados por IA en el aula».

Desde que ChatGPT debutó en noviembre y ganó popularidad entre millones de usuarios, algunos de los distritos escolares más grandes de los EE. UU., incluida la ciudad de Nueva York, han prohibido el chatbot de IA por temor a que los estudiantes usen el generador de texto para hacer trampa o plagiar.

Otros han creado herramientas de detección de terceros, que incluyen GPZeroX: ayudar a los educadores a descubrir texto generado por IA.

OpenAI dijo que está trabajando con educadores para discutir las capacidades y limitaciones de ChatGPT, y continuará trabajando en el descubrimiento de texto impulsado por IA.

(Esta historia del 31 de enero se ha reproducido para corregir la ortografía del primer párrafo de ChatGPT)

Información de Crystal Hu en Toronto; Editado por Josie Kao

Nuestros estándares. Los principios de confianza de Thomson Reuters.