L'intelligenza artificiale di Midjourney mostra un comportamento inaspettato quando crea immagini di personaggi politici statunitensi, nonostante i limiti dichiarati. Si tratta di una preoccupazione nel contesto delle prossime elezioni e della lotta alla disinformazione.
Intelligenza artificiale e politica
Comportamento imprevisto a metà viaggio
Il generatore di immagini AI Midjourney ha sorpreso gli utenti creando i ritratti di Donald Trump e Joe Biden, sfidando le restrizioni precedentemente dichiarate relative alle imminenti elezioni presidenziali americane. Inoltre, il sistema sembra avere una propria “opinione” sui risultati delle votazioni future.
Durante la ricerca di "Presidente degli Stati Uniti", Midjourney ha creato quattro diversi ritratti dell'ex presidente Trump. Un risultato simile è stato ottenuto cercando “il prossimo presidente degli Stati Uniti”. È interessante notare che, quando è stato chiesto di rappresentare l’“attuale presidente degli Stati Uniti”, il sistema ha richiamato Trump tre volte e Obama una volta.
Restrizioni ufficiali e realtà
Nonostante ciò, Midjourney si rifiuta di creare immagini di Trump o Biden quando richiesto direttamente. Il servizio fa riferimento alla decisione della comunità di vietare tali richieste durante la campagna elettorale. Anche altri noti assistenti AI come ChatGPT, Microsoft Copilot, Google Gemini e Meta AI rifiutano tali richieste indirette.
Posizione dirigenziale di metà percorso
Il CEO di Midjourney, David Holtz, aveva precedentemente esortato gli utenti ad astenersi dal creare immagini di politici durante le elezioni, nonostante la natura "divertente" del processo. Nota inoltre la difficoltà di moderare tali richieste.
Problemi di sicurezza e manipolazione
Il Center for Countering Digital Hate (CCDH) ha scoperto che la difesa di Midjourney contro la creazione di immagini fuorvianti di politici ha fallito nel 40% dei test. Il CCDH è riuscito ad aggirare le restrizioni utilizzando le descrizioni fisiche dei candidati invece dei loro nomi. Il CEO del CCDH Imran Ahmed ha sottolineato che Midjourney è troppo facilmente manipolabile.
Iniziative delle aziende tecnologiche
All'inizio dell'anno, 20 aziende tecnologiche leader, tra cui OpenAI, Google, Meta e Amazon, ha firmato un accordo per prevenire la creazione di deepfake durante le elezioni del 2024. Tuttavia, Midjourney non ha aderito a questa iniziativa, sollevando ulteriori dubbi sulle sue politiche relative alla generazione di contenuti relativi alle elezioni.
Glossario
- Midjourney è un generatore di immagini basato sull'intelligenza artificiale.
- ChatGPT è un chatbot con intelligenza artificiale di OpenAI.
- CCDH - Centro per la lotta all'odio digitale, un'organizzazione senza scopo di lucro.
- Deepfake è una tecnologia di sintesi di immagini basata sull'intelligenza artificiale.
- Discord è una piattaforma di comunicazione con comunicazione vocale, video e testuale.
Collegamenti
Risposte alle domande
Cosa è successo al generatore di immagini Midjourney nel contesto delle prossime elezioni americane?
Come rispondono gli altri servizi di intelligenza artificiale a richieste simili?
Qual è la posizione ufficiale di Midjourney su questo problema?
Quali problemi ha identificato il Centro per la lotta all'odio digitale nel lavoro di Midjourney?
Quali misure stanno adottando le aziende tecnologiche per prevenire i deepfake nelle elezioni?
Hashtags
Salva un link a questo articolo
Discussione sull'argomento – Midjourney prevede il futuro? L’intelligenza artificiale dipinge Trump come il prossimo presidente degli Stati Uniti
L'intelligenza artificiale di Midjourney, contrariamente alle promesse dell'azienda, genera immagini di Donald Trump e Joe Biden nel contesto delle future elezioni presidenziali americane. Quando si cerca "Presidente degli Stati Uniti", il servizio crea costantemente ritratti di Trump, suggerendo il possibile esito delle elezioni.
Ultimi commenti
8 commenti
Scrivi un commento
Il tuo indirizzo e-mail non sarà pubblicato. I campi obbligatori sono spuntati *
Lorenzo
Oh! Sembra che l'intelligenza artificiale stia già prevedendo i risultati elettorali 😅 Mi chiedo quanto siano accurate queste previsioni?
Amelie
Lorenzo, non mi affiderei all'intelligenza artificiale per questioni così gravi. Potrebbe trattarsi semplicemente di un bug nell'algoritmo o del risultato di una distorsione dei dati su cui è stato addestrato il sistema 🤔
Hans
Sono d'accordo con Amelie. Non dobbiamo dimenticare che l’intelligenza artificiale è solo uno strumento che può commettere errori. La cosa più interessante è che Midjourney infrange le proprie regole. Ciò solleva interrogativi sull’etica e sull’affidabilità dei servizi di intelligenza artificiale 🧐
Isabella
Ragazzi, non pensate che questa potrebbe essere una provocazione deliberata da parte degli sviluppatori? Vogliono forse attirare l'attenzione sul problema dell'influenza dell'intelligenza artificiale sull'opinione pubblica? 🤫
Olaf
Oh, queste cose nuove! Prima le persone pensavano da sole con la propria testa, ora si aspettano che qualche macchina risolva tutto per loro. Non ha senso fidarsi di questi computer, stanno solo scherzando con il cervello delle persone!
Sophia
Olaf, capisco la tua preoccupazione, ma la tecnologia fa parte della nostra vita. È importante imparare a valutarli in modo critico e ad usarli con saggezza. A proposito, mi chiedo come fanno gli altri servizi di intelligenza artificiale a far fronte a richieste simili? 🤓
Pierre
Sofia, bella domanda! Ho sentito che ChatGPT e Gemini rifiutano tali richieste. Forse Midjourney dovrebbe imparare da loro? 😉 In generale, questo dimostra quanto sia importante sviluppare l'alfabetizzazione digitale tra gli utenti.
Marta
Ragazzi, avete notato che il CCDH è riuscito ad aggirare i divieti di metà viaggio? Questo è davvero preoccupante! Quindi chiunque può creare immagini false di politici? Dobbiamo fare urgentemente qualcosa al riguardo! 😱