OpenAI ha creato un rilevatore di deepfake con una precisione del 98% per DALL-E 3
OpenAI ha introdotto uno strumento per identificare le immagini create dall'intelligenza artificiale, lavorando con elevata precisione sui risultati del proprio generatore DALL-E 3
AI Content Detector
Classificatore OpenAI per il riconoscimento di immagini generate dall'intelligenza artificiale
Lo sviluppo innovativo di OpenAI consente di identificare i contenuti digitali creati utilizzando l'intelligenza artificiale. Il rilevatore si basa su algoritmi avanzati e addestrato sui risultati del generatore di immagini DALL-E 3. Durante i test interni, lo strumento ha dimostrato un'elevata efficienza, riconoscendo correttamente i materiali visivi “artificiali” nel 98% dei casi. Il classificatore è anche in grado di rilevare modifiche minori come compressione, ritaglio e cambiamenti nella saturazione del colore.
Accesso per ricercatori e partecipazione a iniziative di settore
OpenAI sta attualmente accettando domande di accesso al classificatore da laboratori di ricerca, organizzazioni giornalistiche a orientamento scientifico e altre parti interessate attraverso il Programma di accesso alla ricerca. La società prevede inoltre di implementare filigrane digitali, che non possono essere rimosse, per etichettare i contenuti generati dall’intelligenza artificiale. Inoltre, OpenAI si unirà al gruppo industriale C2PA, che comprende già giganti come Google, Microsoft e Adobe, per collaborare su problemi legati all’intelligenza artificiale.
Lotta alla disinformazione e alle minacce di abuso dell'IA
Lo sviluppo di un rilevatore di contenuti AI avviene contro sullo sfondo delle crescenti preoccupazioni circa il potenziale uso improprio delle tecnologie di intelligenza artificiale per diffondere disinformazione e notizie false. Questa questione è particolarmente rilevante nel periodo che precede le elezioni negli Stati Uniti e in altri paesi. Proprio nell’aprile di quest’anno, video falsi di attori di Bollywood che criticavano il primo ministro indiano Narendra Modi sono diventati virali su Internet, dimostrando la necessità di agire per contrastare tali minacce.
Glossario
- OpenAI è un'azienda leader nel settore dell'intelligenza artificiale, sviluppatrice di ChatGPT e DALL-E.
- DALL-E 3 è un generatore di immagini AI avanzato creato da OpenAI.
- C2PA è un gruppo industriale che riunisce i giganti della tecnologia per risolvere i problemi legati all'intelligenza artificiale.
- Narendra Modi è il Primo Ministro dell'India.
Collegamenti
- Sito web ufficiale di OpenAI
- Programma OpenAI Research Access
- Articolo del New York Times su disinformazione ed elezioni
Risposte alle domande
Quale nuova invenzione ha introdotto OpenAI?
Quali funzionalità ha il nuovo classificatore di immagini di OpenAI?
Chi avrà il primo accesso al nuovo classificatore OpenAI?
Quali piani ha OpenAI per la protezione dei contenuti digitali?
Perché era necessario sviluppare tali strumenti?
Hashtags
Salva un link a questo articolo
Discussione sull'argomento – OpenAI ha creato un rilevatore di deepfake con una precisione del 98% per DALL-E 3
OpenAI, la società dietro ChatGPT e DALL-E, ha sviluppato uno strumento per riconoscere le immagini generate utilizzando l'intelligenza artificiale. Il nuovo classificatore funziona con un'elevata precisione del 98% e può identificare i risultati generati dal generatore di immagini DALL-E 3 di OpenAI.
Ultimi commenti
8 commenti
Scrivi un commento
Il tuo indirizzo e-mail non sarà pubblicato. I campi obbligatori sono spuntati *
Иван
È fantastico che OpenAI abbia creato uno strumento per riconoscere le immagini generate artificialmente. 🤖 I contenuti falsi stanno diventando sempre più realistici e tali strumenti aiutano a combatterli.
Анна
Sono d'accordo, Ivan. È importante poter distinguere foto e video reali da quelli generati dall’intelligenza artificiale. Altrimenti, ciò potrebbe portare a seri problemi di disinformazione. 😕
Петр
A proposito, hai visto questo video falso virale di Bollywood? 🎥 È incredibile quanto sembrasse realistico. È positivo che ora disponiamo degli strumenti per identificare tali casi.
Юрий
Eh, perché abbiamo bisogno di questi video e immagini falsi? 😒 Le persone in qualche modo riuscivano a farne a meno. Una completa perdita di tempo e fatica.
София
Yuri, ma la tecnologia è in continuo sviluppo e questo è inevitabile. 🤷♀️ È importante imparare ad usarli e controllarli correttamente. Sono felice che OpenAI stia lavorando per risolvere questo problema.
Юрий
Ebbene sì, beh sì, siete tutti così avanzati qui. 👴 E lo faccio meglio alla vecchia maniera: vedo - credo ai miei occhi, e non a queste tue piccole cose. Festività per i tuoi nuovi giocattoli!
Мария
È divertente sentirlo dire da Yuri. 😄 Ma penso che questi strumenti possano essere molto utili, ad esempio, per giornalisti o artisti per proteggere i propri contenuti dai falsi.
Антон
Annotato correttamente, Maria! 👍 Puoi anche utilizzare le filigrane, come suggerisce OpenAI. In questo modo possiamo tracciare la fonte del contenuto e determinarne l'autenticità.