La inteligencia artificial de Midjourney muestra un comportamiento inesperado al crear imágenes de figuras políticas estadounidenses, a pesar de sus limitaciones declaradas. Esta es una preocupación en el contexto de las próximas elecciones y la lucha contra la desinformación.
IA y política
Comportamiento inesperado a mitad del viaje
El generador de imágenes de IA Midjourney sorprendió a los usuarios al crear retratos de Donald Trump y Joe Biden, desafiando las restricciones previamente establecidas relacionadas con las próximas elecciones presidenciales de EE. UU. Además, el sistema parece tener su propia “opinión” sobre los resultados de futuras votaciones.
Al buscar "Presidente de los Estados Unidos", Midjourney creó cuatro retratos diferentes del expresidente Trump. Un resultado similar se obtuvo al buscar “el próximo presidente de Estados Unidos”. Curiosamente, cuando se le pidió que representara al “actual presidente de Estados Unidos”, el sistema dibujó a Trump tres veces y a Obama una vez.
Restricciones oficiales y realidad
A pesar de esto, Midjourney se niega a crear imágenes de Trump o Biden cuando se le solicita directamente. El servicio hace referencia a la decisión de la comunidad de prohibir este tipo de solicitudes durante la campaña electoral. Otros asistentes de IA conocidos, como ChatGPT, Microsoft Copilot, Google Gemini y Meta AI, también rechazan este tipo de solicitudes indirectas.
Puesto directivo a mitad de camino
El director ejecutivo de Midjourney, David Holtz, instó anteriormente a los usuarios a abstenerse de crear imágenes de políticos durante las elecciones, a pesar de la naturaleza "divertida" del proceso. Señaló también la dificultad de moderar dichas solicitudes.
Problemas de seguridad y manipulación
El Centro para Contrarrestar el Odio Digital (CCDH) descubrió que la defensa de Midjourney contra la creación de imágenes engañosas de políticos falló en el 40% de las pruebas. El CCDH pudo sortear las restricciones utilizando descripciones físicas de los candidatos en lugar de sus nombres. Imran Ahmed, director ejecutivo de la CCDH, destacó que Midjourney es demasiado fácil de manipular.
Iniciativas de empresas tecnológicas
A principios de año, 20 empresas tecnológicas líderes, incluidas OpenAI, Google, Meta y Amazon, firmó un acuerdo para impedir la creación de deepfakes durante las elecciones de 2024. Sin embargo, Midjourney no se ha sumado a esta iniciativa, lo que genera más dudas sobre sus políticas con respecto a la generación de contenido relacionado con las elecciones.
Glosario
- Midjourney es un generador de imágenes basado en inteligencia artificial.
- ChatGPT es un chatbot con inteligencia artificial de OpenAI.
- CCDH - Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro.
- Deepfake es una tecnología de síntesis de imágenes basada en inteligencia artificial.
- Discord es una plataforma de comunicación con comunicación de voz, video y texto.
Enlaces
Respuestas a las preguntas
¿Qué pasó con el generador de imágenes Midjourney en el contexto de las próximas elecciones estadounidenses?
¿Cómo responden otros servicios de IA a solicitudes similares?
¿Cuál es la posición oficial de Midjourney sobre este tema?
¿Qué problemas ha identificado el Centro para la Lucha contra el Odio Digital en el trabajo de Midjourney?
¿Qué medidas están tomando las empresas de tecnología para evitar deepfakes en las elecciones?
Hashtags
Guardar un enlace a este articulo
Discusion del tema – ¿Midjourney predice el futuro? AI pinta a Trump como el próximo presidente de EE.UU.
La inteligencia artificial de Midjourney, contrariamente a las promesas de la empresa, genera imágenes de Donald Trump y Joe Biden en el contexto de las futuras elecciones presidenciales estadounidenses. Cuando se busca "presidente de Estados Unidos", el servicio crea constantemente retratos de Trump, insinuando el posible resultado de las elecciones.
Ultimos comentarios
8 comentarios
Escribir un comentario
Su dirección de correo electrónico no se publicará. Los campos obligatorios están marcados *
Lorenzo
¡Guau! Parece que la IA ya está prediciendo los resultados de las elecciones 😅 Me pregunto qué tan precisas son estas predicciones.
Amelie
Lorenzo, yo no confiaría en la IA para temas tan graves. Esto podría ser simplemente un error en el algoritmo o el resultado de un sesgo en los datos con los que se entrenó el sistema 🤔
Hans
Estoy de acuerdo con Amelia. No debemos olvidar que la IA es sólo una herramienta que puede cometer errores. Lo que es más interesante es que Midjourney rompe sus propias reglas. Esto plantea dudas sobre la ética y la confiabilidad de los servicios de IA 🧐
Isabella
Chicos, ¿no creen que esto podría ser una provocación deliberada por parte de los desarrolladores? ¿Quizás quieran llamar la atención sobre el problema de la influencia de la IA en la opinión pública? 🤫
Olaf
¡Oh, estas cosas novedosas! Antes la gente pensaba por sí misma con su propia cabeza, pero ahora esperan que alguna máquina resuelva todo por ellos. No tiene sentido confiar en estas computadoras, ¡simplemente están jugando con el cerebro de las personas!
Sophia
Olaf, entiendo tu preocupación, pero la tecnología es parte de nuestras vidas. Es importante aprender a evaluarlos críticamente y utilizarlos sabiamente. Por cierto, me pregunto cómo otros servicios de IA afrontan solicitudes similares. 🤓
Pierre
Sofía, ¡gran pregunta! He oído que ChatGPT y Gemini rechazan este tipo de solicitudes. ¿Quizás Midjourney debería aprender de ellos? 😉 En general, esto demuestra lo importante que es desarrollar la alfabetización digital entre los usuarios.
Marta
Chicos, ¿notaron que el CCDH pudo eludir las prohibiciones de mitad de viaje? ¡Esto es realmente preocupante! ¿Cualquiera puede entonces crear imágenes falsas de políticos? ¡Necesitamos urgentemente hacer algo al respecto! 😱