OpenAI ha sviluppato una tecnologia per identificare il testo generato da ChatGPT con un'efficienza del 99,9%. Nonostante i potenziali vantaggi, l’azienda non ha fretta di implementare questo strumento a causa delle reazioni contrastanti e delle possibili conseguenze negative per alcuni gruppi di utenti.
Scoperta dei contenuti AI
La sfida dell'utilizzo di ChatGPT nell'istruzione
Dal lancio del ChatGPT di OpenAI alla fine del 2022, gli educatori hanno espresso preoccupazione sulla possibilità di compiti di apprendimento inappropriati utilizzando la piattaforma. In risposta, molte aziende hanno sviluppato strumenti per identificare i contenuti generati dall’intelligenza artificiale, ma la loro efficacia lascia molto a desiderare.
Metodo innovativo da OpenAI
Recentemente OpenAI ha annunciato la creazione di un metodo in grado di rilevare l'utilizzo di ChatGPT durante la scrittura di testo. La precisione dichiarata della tecnologia è del 99,9%. Il principio di funzionamento si basa su un sistema che prevede la parola o frase successiva (token) in una frase. Lo strumento di rilevamento AI modifica leggermente i token, lasciando una filigrana invisibile all'occhio umano che può essere riconosciuta da appositi software.
Dilemma dell'implementazione
Nonostante la tecnologia fosse pronta per l'uso circa un anno fa, l'azienda finora ha si è astenuto dall'implementarlo a causa di reazioni contrastanti all'interno dell'organizzazione. Da un lato, il lancio dello strumento potrebbe allontanare alcuni utenti di ChatGPT. D'altra parte, dimostra l'impegno di OpenAI per la trasparenza.
Impatti potenziali
Un rappresentante di OpenAI ha espresso preoccupazione per il possibile impatto sproporzionato dello strumento sui gruppi la cui prima lingua non è l'inglese. Tuttavia, i dipendenti chiave dell’azienda che sostengono il lancio della tecnologia sono fiduciosi nei suoi potenziali benefici e credono che la sua implementazione non dovrebbe essere ritardata.
Glossario
- OpenAI è un'azienda americana specializzata nello sviluppo dell'intelligenza artificiale
- ChatGPT - un modello linguistico sviluppato da OpenAI per la generazione di testo
- AI - intelligenza artificiale, una tecnologia che imita l'intelligenza umana
- Token - l'unità minima di testo elaborata dal modello linguistico
- Watermark - un segno nascosto utilizzato per identificare la fonte delle informazioni
Collegamenti
Hashtags
Salva un link a questo articolo
Discussione sull'argomento – OpenAI ha creato un rivoluzionario rilevatore di contenuti ChatGPT: precisione del 99,9%.
OpenAI ha sviluppato uno strumento per rilevare i testi generati da ChatGPT con una precisione del 99,9%. Questa soluzione è progettata per aiutare gli insegnanti a identificare i compiti degli studenti disonesti e garantire l'integrità nel processo educativo.
Non ci sono recensioni per questo prodotto.
Scrivi un commento
Il tuo indirizzo e-mail non sarà pubblicato. I campi obbligatori sono spuntati *