Огляд проблем Мета (Facebook) з ідентифікацією контенту, генерованого штучним інтелектом, та нереалістичних зображень, які поширюються в соціальних мережах та вводять користувачів в оману.
Фейкі ІІ
Фальшиві фото та пости
Останнім часом у Facebook стали з'являтися публікації із зображеннями, створеними за допомогою нейромереж, які вводять в оману десятки тисяч користувачів. Деякі з них, незважаючи на явні ознаки використання штучного інтелекту, не були позначені як хибні або згенеровані ШІ. Наприклад, пост про роботу, що нібито зібрав тисячі глядачів на свій перший концерт, з абсурдними деталями, такими як використання неіснуючого процесора Apple M3 Pro та запрошення знаменитостей. Хоча Facebook зрештою помітив повідомлення як хибне, воно встигло набрати сотні лайків, коментарів та ріпостів.
Проблеми з ідентифікацією ІІ
Мета оголосила про плани додавати мітки "Створено за допомогою ІІ до фотографій, завантажених у Facebook, Instagram і Threads, але система працює некоректно. Інструменти Мета іноді помилково позначають реальні фото як створені за допомогою ІІ, наприклад, знімки турніру з крикету Індійської прем'єр-ліги в Instagram або фотографію баскетбольної гри, зроблену колишнім фотографом Білого дому Пітом Соузою.
Недоліки алгоритмів розпізнавання
Алгоритми Instagram можуть позначати зображення як згенеровані ІІ, коли фотографи використовують інструменти типу Generative Fill від Adobe для видалення невеликих об'єктів. Однак цей процес працює некоректно та непослідовно. Зважаючи на давні проблеми Мета з модерацією контенту, зі штучним інтелектом може скластися аналогічна ситуація. Користувачам слід навчитися розпізнавати фейковий або штучний контент, щоб не вестися на публікації, що вводять в оману, в соціальних мережах.
Глосарій
- Мета (Meta) - компанія, що володіє соціальними мережами Facebook, Instagram та Threads.
- Нейросети - штучні нейронні мережі, що використовуються для створення зображень та текстів за допомогою штучного інтелекту.
- Generative Fill (Adobe) - інструмент у Photoshop для видалення об'єктів із зображень за допомогою штучного інтелекту.
- Піт Соуза - колишній фотограф Білого дому.
Посилання
- Позначка Facebook про хибне повідомлення
- Фотографія баскетбольної гри Піта Соузи
- Стаття PetaPixel про помилки ідентифікації ІІ в Instagram
Відповіді на питання
Що таке нейромережі і як вони працюють із зображеннями?
Як користувачі реагують на синтетичні зображення в соціальних мережах?
Як Meta намагається боротися з поширенням синтетичних зображень?
Які проблеми виникають із розпізнаванням ІІ-зображень у соціальних мережах?
Які ризики пов'язані з поширенням синтетичних зображень у соціальних мережах?
Хештеги
Збережи посилання на цю сторінку
Обговорення теми – Facebook втратив довіру: генеровані фото та фейки захопили соцмережу
Останнім часом у Facebook почастішали випадки поширення підроблених фотографій, створених за допомогою нейромереж, та фейкових історій, які користувачі вважають за реальні.
Останні коментарі
8 коментарів
Написати коментар
Ваша адреса електронної пошти не буде опублікована. Обов'язкові поля відмічені *
Юлия
Я бачу, що в соцмережах дедалі частіше публікуються штучні зображення, які згенерували ІІ. Це може призвести до поширення дезінформації та фейків. 🤔 Мета повинна краще відстежувати такий контент і чітко помічати його.
Алёна
Згодна, це справді велика проблема. Але й користувачі теж мають бути більш критично налаштованими і не вірити усьому, що бачать в інтернеті. 👀 Потрібно розвивати цифрову грамотність.
Макс
А мене тішать ці фейкові пости! 😄 Люди з такою серйозністю обговорюють неіснуючі речі. Пам'ятаю, як усі вірили в "бабусю, яка зв'язала танк".
Григорий
Фу, розвелося цих фейків, лихо! 😒 У мій час таких дурниць не було, все було чесно. Ці ваші нейромережі тільки дурять молодь.
Софья
А я вважаю, що технології ІІ відкривають нові можливості для творчості та самовираження. 🎨 Так, потрібно боротися з дезінформацією, але не варто відкидати весь потенціал нейромереж.
Антон
Проблема в тому, що більшість людей не розуміються на цих технологіях. От і вірять усьому, що бачать. 🤷♂️ Потрібно краще просвічувати населення у питаннях ІІ.
Ксения
Я якось натрапила на фейкову посаду про "перший концерт робота". 🤖 Було смішно читати коментарі людей, які повірили в цю нісенітницю. Але загалом такі фейки небезпечні, їх треба припиняти.
Виктор
Давайте краще обговоримо, як нам розвивати ці технології далі та використовувати їх на благо! 🚀 Нейросети це майбутнє, і ми повинні бути в авангарді прогресу.