OpenAI разработала технологию для выявления текста, созданного ChatGPT, с эффективностью 99,9%. Несмотря на потенциальные преимущества, компания пока не спешит внедрять этот инструмент из-за неоднозначной реакции и возможных негативных последствий для некоторых групп пользователей.
Обнаружение ИИ-контента
Проблема использования ChatGPT в образовании
После запуска ChatGPT от OpenAI в конце 2022 года, педагоги выразили озабоченность возможностью недобросовестного выполнения учебных заданий с помощью этой платформы. В ответ на это многие компании разработали инструменты для выявления контента, сгенерированного искусственным интеллектом, однако их эффективность оставляет желать лучшего.
Инновационный метод от OpenAI
Недавно OpenAI объявила о создании метода, способного определить использование ChatGPT при написании текста. Заявленная точность технологии составляет 99,9%. Принцип работы основан на системе, прогнозирующей следующее слово или фразу (токен) в предложении. Инструмент обнаружения ИИ слегка модифицирует токены, оставляя невидимый для человеческого глаза водяной знак, который может быть распознан специальным программным обеспечением.
Дилемма внедрения
Несмотря на то, что технология была готова к использованию около года назад, компания пока воздерживается от ее внедрения из-за неоднозначной реакции внутри организации. С одной стороны, запуск инструмента может оттолкнуть часть пользователей ChatGPT. С другой стороны, это демонстрирует приверженность OpenAI принципам прозрачности.
Потенциальные последствия
Представитель OpenAI выразил беспокойство о возможном непропорциональном влиянии инструмента на группы, для которых английский не является родным языком. Тем не менее, ключевые сотрудники компании, поддерживающие запуск технологии, уверены в ее потенциальной пользе и считают, что ее внедрение не следует откладывать.
Глоссарий
- OpenAI - американская компания, специализирующаяся на разработке искусственного интеллекта
- ChatGPT - языковая модель, разработанная OpenAI для генерации текста
- ИИ - искусственный интеллект, технология, имитирующая человеческий интеллект
- Токен - минимальная единица текста, обрабатываемая языковой моделью
- Водяной знак - скрытая метка, используемая для идентификации источника информации
Ссылки
Хештеги
Сохрани ссылку на эту статью
Обсуждение темы – OpenAI создала революционный детектор контента ChatGPT: 99,9% точности
OpenAI разработала инструмент для обнаружения текстов, созданных ChatGPT, с точностью 99,9%. Это решение призвано помочь преподавателям выявлять нечестное выполнение заданий студентами и обеспечить честность в образовательном процессе.
Нет комментариев.
Написать комментарий
Ваш адрес электронной почты не будет опубликован. Обязательные поля отмечены *