OpenAI розробила технологію виявлення тексту, створеного ChatGPT, з ефективністю 99,9%. Незважаючи на потенційні переваги, компанія поки що не поспішає впроваджувати цей інструмент через неоднозначну реакцію та можливі негативні наслідки для деяких груп користувачів.
Виявлення ІІ-контенту
Проблема використання ChatGPT в освіті
Після запуску ChatGPT від OpenAI наприкінці 2022 року, педагоги висловили занепокоєння можливістю недобросовісного виконання навчальних завдань за допомогою цієї платформи. У відповідь на це багато компаній розробили інструменти для виявлення контенту, згенерованого штучним інтелектом, проте їхня ефективність залишає бажати кращого.
Інноваційний метод від OpenAI
Нещодавно OpenAI оголосила про створення методу, здатного визначити використання ChatGPT при написанні тексту. Заявлена точність технології складає 99,9%. Принцип роботи заснований на системі, яка прогнозує наступне слово або фразу (токен) у реченні. Інструмент виявлення ІІ трохи модифікує токени, залишаючи невидимий для людського ока водяний знак, який може бути розпізнаний спеціальним програмним забезпеченням.
Дилема впровадження
Незважаючи на те, що технологія була готова до використання близько року тому, компанія поки утримується від її впровадження через неоднозначну реакцію всередині організації. З одного боку, запуск інструменту може відштовхнути частину користувачів ChatGPT. З іншого боку, це демонструє відданість OpenAI принципам прозорості.
Потенційні наслідки
Представник OpenAI висловив занепокоєння про можливий непропорційний вплив інструменту на групи, для яких англійська не є рідною мовою. Тим не менш, ключові співробітники компанії, які підтримують запуск технології, впевнені в її потенційній користі та вважають, що її впровадження не слід відкладати.
Глосарій
- OpenAI - американська компанія, що спеціалізується на розробці штучного інтелекту
- ChatGPT - мовна модель, розроблена OpenAI для генерації тексту
- ІІ - штучний інтелект, технологія, що імітує людський інтелект
- Токен - мінімальна одиниця тексту, оброблена мовною моделлю
- Водяний знак - прихована мітка, що використовується для ідентифікації джерела інформації
Посилання
Хештеги
Збережи посилання на цю сторінку
Обговорення теми – OpenAI створила революційний детектор контенту ChatGPT: 99,9% точності
OpenAI розробила інструмент виявлення текстів, створених ChatGPT, з точністю 99,9%. Це рішення покликане допомогти викладачам виявляти нечесне виконання завдань студентами та забезпечити чесність в освітньому процесі.
Немає коментарів.
Написати коментар
Ваша адреса електронної пошти не буде опублікована. Обов'язкові поля відмічені *