Bienvenido al blog de Undercode   Click to listen highlighted text! Bienvenido al blog de Undercode
Inicio Noticias OpenAI lanza herramienta para detectar texto escrito por IA

OpenAI lanza herramienta para detectar texto escrito por IA

por Dragora

OpenAI ha lanzado un clasificador de texto de IA que intenta detectar si el contenido de entrada se generó utilizando herramientas de inteligencia artificial como ChatGPT.

«El clasificador de texto AI es un modelo GPT ajustado que predice la probabilidad de que AI haya generado un texto a partir de una variedad de fuentes, como ChatGPT», explica una nueva publicación de blog de OpenAI.

OpenAI lanzó la herramienta hoy después de que numerosas universidades y distritos escolares K-12 prohibieran el popular chatbot ChatGPT AI de la compañía debido a su capacidad para completar la tarea de los estudiantes, como escribir informes de libros y ensayos, e incluso terminar tareas de programación.

 

Inteligencia artificial

 

Según  BusinessInsider , ChatGPT está prohibido en los distritos escolares públicos de Nueva York, Seattle, Los Ángeles y Baltimore K-12, y las universidades de Francia e India también prohíben la plataforma en las computadoras escolares.

BleepingComputer probó el nuevo  clasificador de texto AI de OpenAI  y, en su mayor parte, encontró que no era concluyente.

Al probar el clasificador de texto AI de OpenAI contra la mayor parte de nuestro propio contenido, determinó correctamente que un humano escribió nuestros artículos.

 

Respuesta del clasificador de texto AI de OpenAI para contenido de BleepingComputer
Respuesta del clasificador de texto AI de OpenAI para contenido de BleepingComputer

 

Sin embargo, al analizar el contenido generado por ChatGPT y el chatbot de IA de You.com, tuvo muchas dificultades para detectar si el texto fue generado por IA.

Como es probable que los educadores utilicen los nuevos clasificadores de texto de IA para verificar si los estudiantes hicieron trampa en sus tareas asignadas, OpenAI advierte que no debe usarse como la «única prueba» para determinar la deshonestidad académica.

“Nuestro clasificador no es del todo fiable”,  advierte OpenAI .

«En nuestras evaluaciones sobre un ‘conjunto desafiante’ de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como ‘probablemente escrito por IA’, mientras que etiqueta incorrectamente el texto escrito por humanos como 9 % escrito por IA del tiempo (falsos positivos)».

«La confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada»

El éxito del clasificador probablemente mejorará a medida que pase el tiempo y se entrene con más datos. Sin embargo, por ahora, no es una herramienta confiable para detectar contenido generado por IA.
Fuente: https://www.bleepingcomputer.com

You may also like

Dejar Comentario

Click to listen highlighted text!