L'intelligence artificielle de Midjourney présente un comportement inattendu lors de la création d'images de personnalités politiques américaines, malgré ses limites indiquées. C’est une préoccupation dans le contexte des élections à venir et de la lutte contre la désinformation.
IA et politique
Comportement inattendu à mi-parcours
Le générateur d'images IA Midjourney a surpris les utilisateurs en créant des portraits de Donald Trump et de Joe Biden, défiant les restrictions précédemment énoncées liées à la prochaine élection présidentielle américaine. De plus, le système semble avoir sa propre « opinion » sur les résultats des votes futurs.
En recherchant « Président des États-Unis », Midjourney a créé quatre portraits différents de l'ancien président Trump. Un résultat similaire a été obtenu en recherchant « le prochain président américain ». Il est intéressant de noter que lorsqu’on lui a demandé de représenter « l’actuel président américain », le système a dessiné Trump trois fois et Obama une fois.
Restrictions officielles et réalité
Malgré cela, Midjourney refuse de créer des images de Trump ou de Biden lorsqu’on lui demande directement. Le service fait référence à la décision de la communauté d'interdire de telles demandes pendant la campagne électorale. D'autres assistants d'IA bien connus tels que ChatGPT, Microsoft Copilot, Google Gemini et Meta AI rejettent également de telles demandes indirectes.
Poste de direction à mi-parcours
Le PDG de Midjourney, David Holtz, avait précédemment exhorté les utilisateurs à s'abstenir de créer des images de politiciens pendant les élections, malgré la nature « amusante » du processus. Il a également souligné la difficulté de modérer de telles demandes.
Problèmes de sécurité et de manipulation
Le Centre de lutte contre la haine numérique (CCDH) a constaté que la défense de Midjourney contre la création d'images trompeuses de politiciens a échoué dans 40 % des tests. Le CCDH a pu contourner les restrictions en utilisant des descriptions physiques des candidats au lieu de leurs noms. Le PDG du CCDH, Imran Ahmed, a souligné que Midjourney est trop facilement manipulable.
Initiatives d'entreprises technologiques
Au début de l'année, 20 entreprises technologiques de premier plan, dont OpenAI, Google, Meta et Amazon a signé un accord pour empêcher la création de deepfakes lors des élections de 2024. Cependant, Midjourney n'a pas rejoint cette initiative, ce qui soulève d'autres questions sur ses politiques concernant la génération de contenu lié aux élections.
Glossaire
- Midjourney est un générateur d'images basé sur l'intelligence artificielle.
- ChatGPT est un chatbot avec intelligence artificielle d'OpenAI.
- CCDH - Centre de lutte contre la haine numérique, une organisation à but non lucratif.
- Deepfake est une technologie de synthèse d'images basée sur l'intelligence artificielle.
- Discord est une plateforme de communication avec communication vocale, vidéo et textuelle.
Liens
Réponses aux questions
Qu'est-il arrivé au générateur d'images Midjourney dans le contexte des prochaines élections américaines ?
Comment les autres services d'IA répondent-ils à des requêtes similaires ?
Quelle est la position officielle de Midjourney sur cette question ?
Quels problèmes le Centre de lutte contre la haine numérique a-t-il identifiés dans le travail de Midjourney ?
Quelles mesures les entreprises technologiques prennent-elles pour empêcher les deepfakes lors des élections ?
Hashtags
Enregistrer un lien vers cet article
Discussion sur le sujet – Midjourney prédit-il l’avenir ? AI présente Trump comme le prochain président américain
L'intelligence artificielle de Midjourney, contrairement aux promesses de l'entreprise, génère des images de Donald Trump et de Joe Biden dans le contexte des futures élections présidentielles américaines. Lorsque vous recherchez « Président américain », le service crée systématiquement des portraits de Trump, faisant allusion au résultat possible de l'élection.
Derniers commentaires
8 commentaires
Écrire un commentaire
Votre adresse email ne sera pas publiée. Les champs obligatoires sont cochés *
Lorenzo
Ouah! On dirait que l’IA prédit déjà les résultats des élections 😅 Je me demande quelle est la précision de ces prédictions ?
Amelie
Lorenzo, je ne compterais pas sur l'IA pour des problèmes aussi graves. Cela pourrait simplement être un bug dans l'algorithme ou le résultat d'un biais dans les données sur lesquelles le système a été formé 🤔
Hans
Je suis d'accord avec Amélie. Il ne faut pas oublier que l’IA n’est qu’un outil capable de commettre des erreurs. Ce qui est plus intéressant, c'est que Midjourney enfreint ses propres règles. Cela soulève des questions sur l'éthique et la fiabilité des services d'IA 🧐
Isabella
Les gars, ne pensez-vous pas que cela pourrait être une provocation délibérée de la part des développeurs ? Peut-être veulent-ils attirer l’attention sur le problème de l’influence de l’IA sur l’opinion publique ? 🤫
Olaf
Oh, ces choses nouvelles ! Auparavant, les gens pensaient par eux-mêmes, mais maintenant ils s'attendent à ce qu'une machine résolve tout à leur place. Cela ne sert à rien de faire confiance à ces ordinateurs, ils ne font que déranger le cerveau des gens !
Sophia
Olaf, je comprends ton inquiétude, mais la technologie fait partie de nos vies. Il est important d’apprendre à les évaluer de manière critique et à les utiliser à bon escient. Au fait, je me demande comment les autres services d'IA gèrent des demandes similaires ? 🤓
Pierre
Sophie, excellente question ! J'ai entendu dire que ChatGPT et Gemini refusaient de telles demandes. Peut-être que Midjourney devrait apprendre d'eux ? 😉 De manière générale, cela montre à quel point il est important de développer la culture numérique des utilisateurs.
Marta
Les gars, avez-vous remarqué que le CCDH était capable de contourner les interdictions de Midjourney ? C'est vraiment inquiétant ! Alors n’importe qui peut créer de fausses images de politiciens ? Il est urgent que nous fassions quelque chose à ce sujet ! 😱