OpenAI a développé une technologie pour identifier le texte généré par ChatGPT avec une efficacité de 99,9 %. Malgré les avantages potentiels, l'entreprise n'est pas pressée de mettre en œuvre cet outil en raison des réactions mitigées et des éventuelles conséquences négatives pour certains groupes d'utilisateurs.
Découverte de contenu IA
Le défi de l'utilisation de ChatGPT dans l'éducation
Depuis le lancement de ChatGPT d'OpenAI fin 2022, les enseignants ont exprimé leur inquiétude quant à la possibilité de tâches d'apprentissage inappropriées utilisant la plateforme. En réponse, de nombreuses entreprises ont développé des outils pour identifier le contenu généré par l’IA, mais leur efficacité laisse beaucoup à désirer.
Méthode innovante d'OpenAI
Récemment, OpenAI a annoncé la création d'une méthode capable de détecter l'utilisation de ChatGPT lors de la rédaction de texte. La précision déclarée de la technologie est de 99,9 %. Le principe de fonctionnement est basé sur un système qui prédit le prochain mot ou phrase (jeton) dans une phrase. L'outil de détection d'IA modifie légèrement les jetons, laissant un filigrane invisible à l'œil humain et reconnaissable par un logiciel spécial.
Dilemme de mise en œuvre
Même si la technologie était prête à être utilisée il y a environ un an, l'entreprise a jusqu'à présent s’est abstenu de le mettre en œuvre en raison de réactions mitigées au sein de l’organisation. D'une part, le lancement de l'outil pourrait aliéner certains utilisateurs de ChatGPT. D’un autre côté, cela démontre l’engagement d’OpenAI en faveur de la transparence.
Impacts potentiels
Un représentant d'OpenAI s'est dit préoccupé par l'impact disproportionné possible de l'outil sur les groupes dont la langue maternelle n'est pas l'anglais. Toutefois, les principaux employés de l'entreprise qui soutiennent le lancement de la technologie sont confiants dans ses avantages potentiels et estiment que sa mise en œuvre ne devrait pas être retardée.
Glossaire
- OpenAI est une société américaine spécialisée dans le développement de l'intelligence artificielle
- ChatGPT - un modèle de langage développé par OpenAI pour la génération de texte
- AI - l'intelligence artificielle, une technologie qui imite l'intelligence humaine
- Jeton : l'unité minimale de texte traitée par le modèle de langage.
- Filigrane : une marque cachée utilisée pour identifier la source de l'information.
Liens
Hashtags
Enregistrer un lien vers cet article
Discussion sur le sujet – OpenAI a créé un détecteur de contenu révolutionnaire ChatGPT : précision de 99,9 %
OpenAI a développé un outil pour détecter les textes générés par ChatGPT avec une précision de 99,9 %. Cette solution est conçue pour aider les enseignants à identifier les devoirs malhonnêtes des élèves et à garantir l'intégrité du processus éducatif.
Il n’y a aucune évaluation sur ce produit.
Écrire un commentaire
Votre adresse email ne sera pas publiée. Les champs obligatoires sont cochés *