Обзор проблем Мета (Facebook) с идентификацией контента, генерированного искусственным интеллектом, и нереалистичных изображений, которые распространяются в социальных сетях и вводят пользователей в заблуждение.
Фейки ИИ
Фальшивые фото и посты
В последнее время в Facebook стали появляться публикации с изображениями, созданными с помощью нейросетей, которые вводят в заблуждение десятки тысяч пользователей. Некоторые из них, несмотря на явные признаки использования искусственного интеллекта, не были обозначены как ложные или сгенерированные ИИ. Например, пост о роботе, якобы собравшем тысячи зрителей на свой первый концерт, с абсурдными деталями, такими как использование несуществующего процессора Apple M3 Pro и приглашение знаменитостей. Хотя Facebook в конечном итоге пометил сообщение как ложное, оно успело набрать сотни лайков, комментариев и репостов.
Проблемы с идентификацией ИИ
Мета объявила о планах добавлять метки "Создано с помощью ИИ" к фотографиям, загруженным в Facebook, Instagram и Threads, но система работает некорректно. Инструменты Мета иногда ошибочно помечают реальные фото как созданные с помощью ИИ, например, снимки турнира по крикету Индийской премьер-лиги в Instagram или фотографию баскетбольной игры, сделанную бывшим фотографом Белого дома Питом Соузой.
Недостатки алгоритмов распознавания
Алгоритмы Instagram могут помечать изображения как сгенерированные ИИ, когда фотографы используют инструменты вроде Generative Fill от Adobe для удаления небольших объектов. Однако этот процесс работает некорректно и непоследовательно. Учитывая давние проблемы Мета с модерацией контента, с искусственным интеллектом может сложиться аналогичная ситуация. Пользователям следует научиться распознавать фейковый или искусственный контент, чтобы не вестись на вводящие в заблуждение публикации в социальных сетях.
Глоссарий
- Мета (Meta) - компания, владеющая социальными сетями Facebook, Instagram и Threads.
- Нейросети - искусственные нейронные сети, используемые для создания изображений и текстов с помощью искусственного интеллекта.
- Generative Fill (Adobe) - инструмент в Photoshop для удаления объектов с изображений с помощью искусственного интеллекта.
- Пит Соуза - бывший фотограф Белого дома.
Ссылки
- Пометка Facebook о ложном сообщении
- Фотография баскетбольной игры Пита Соузы
- Статья PetaPixel об ошибках идентификации ИИ в Instagram
Ответы на вопросы
Что такое нейросети и как они работают с изображениями?
Как пользователи реагируют на синтетические изображения в социальных сетях?
Как Meta пытается бороться с распространением синтетических изображений?
Какие проблемы возникают с распознаванием ИИ-изображений в социальных сетях?
Какие риски связаны с распространением синтетических изображений в социальных сетях?
Хештеги
Сохрани ссылку на эту статью
Обсуждение темы – Facebook потерял доверие: генерированные фото и фейки захватили соцсеть
В последнее время в Facebook участились случаи распространения поддельных фотографий, созданных с помощью нейросетей, и фейковых историй, которые пользователи принимают за реальные.
Последние комментарии
8 комментариев
Написать комментарий
Ваш адрес электронной почты не будет опубликован. Обязательные поля отмечены *
Юлия
Я вижу, что в соцсетях все чаще публикуются искусственные изображения, сгенерированные ИИ. Это может привести к распространению дезинформации и фейков. 🤔 Мета должна лучше отслеживать такой контент и четко помечать его.
Алёна
Согласна, это действительно большая проблема. Но и пользователи тоже должны быть более критично настроенными и не верить всему, что видят в интернете. 👀 Нужно развивать цифровую грамотность.
Макс
А меня забавляют эти фейковые посты! 😄 Люди с такой серьёзностью обсуждают несуществующие вещи. Помню, как все верили в "бабушку, связавшую танк".
Григорий
Фу, развелось этих фейков, прям беда! 😒 В моё время таких глупостей не было, все было по-честному. Эти ваши нейросети только дурят молодежь.
Софья
А я считаю, что технологии ИИ открывают новые возможности для творчества и самовыражения. 🎨 Да, нужно бороться с дезинформацией, но не стоит отвергать весь потенциал нейросетей.
Антон
Проблема в том, что большинство людей не разбираются в этих технологиях. Вот и верят всему, что видят. 🤷♂️ Нужно лучше просвещать население в вопросах ИИ.
Ксения
Я как-то наткнулась на фейковый пост о "первом концерте робота". 🤖 Было забавно читать комментарии людей, которые поверили в эту чушь. Но в целом такие фейки опасны, их нужно пресекать.
Виктор
Давайте лучше обсудим, как нам развивать эти технологии дальше и использовать их во благо! 🚀 Нейросети — это будущее, и мы должны быть в авангарде прогресса.