OpenAI ha desarrollado tecnología para identificar texto generado por ChatGPT con una eficiencia del 99,9%. A pesar de los posibles beneficios, la empresa no tiene prisa por implementar esta herramienta debido a reacciones encontradas y posibles consecuencias negativas para algunos grupos de usuarios.
Descubrimiento de contenido mediante IA
El desafío de utilizar ChatGPT en la educación
Desde el lanzamiento de ChatGPT de OpenAI a finales de 2022, los educadores han expresado su preocupación por la posibilidad de que se realicen tareas de aprendizaje inapropiadas al utilizar la plataforma. En respuesta, muchas empresas han desarrollado herramientas para identificar contenido generado por IA, pero su eficacia deja mucho que desear.
Método innovador de OpenAI
Recientemente, OpenAI anunció la creación de un método que puede detectar el uso de ChatGPT al escribir texto. La precisión declarada de la tecnología es del 99,9%. El principio de funcionamiento se basa en un sistema que predice la siguiente palabra o frase (token) de una oración. La herramienta de detección de IA modifica ligeramente los tokens, dejando una marca de agua invisible al ojo humano que puede ser reconocida mediante un software especial.
Dilema de implementación
A pesar de que la tecnología estuvo lista para su uso hace aproximadamente un año, la empresa hasta ahora se abstuvo de implementarlo debido a reacciones encontradas dentro de la organización. Por un lado, el lanzamiento de la herramienta puede alejar a algunos usuarios de ChatGPT. Por otro lado, demuestra el compromiso de OpenAI con la transparencia.
Impactos potenciales
Un representante de OpenAI expresó su preocupación por el posible impacto desproporcionado de la herramienta en grupos cuyo primer idioma no es el inglés. Sin embargo, los empleados clave de la empresa que apoyan el lanzamiento de la tecnología confían en sus beneficios potenciales y creen que su implementación no debe retrasarse.
Glosario
- OpenAI es una empresa estadounidense especializada en el desarrollo de inteligencia artificial
- ChatGPT: un modelo de lenguaje desarrollado por OpenAI para la generación de texto
- AI: inteligencia artificial, una tecnología que imita la inteligencia humana
- Token: la unidad mínima de texto procesada por el modelo de lenguaje
- Marca de agua: una marca oculta utilizada para identificar la fuente de información
Enlaces
Hashtags
Guardar un enlace a este articulo
Discusion del tema – OpenAI ha creado un revolucionario detector de contenidos ChatGPT: 99,9% de precisión
OpenAI ha desarrollado una herramienta para detectar textos generados por ChatGPT con un 99,9% de precisión. Esta solución está diseñada para ayudar a los profesores a identificar tareas estudiantiles deshonestas y garantizar la integridad en el proceso educativo.
No hay opiniones para este producto.
Escribir un comentario
Su dirección de correo electrónico no se publicará. Los campos obligatorios están marcados *