OpenAI opracowało technologię identyfikacji tekstu generowanego przez ChatGPT z wydajnością 99,9%. Pomimo potencjalnych korzyści firma nie spieszy się z wdrożeniem tego narzędzia ze względu na mieszane reakcje i możliwe negatywne konsekwencje dla niektórych grup użytkowników.
Odkrywanie treści AI
Wyzwanie związane z wykorzystaniem ChatGPT w edukacji
Od czasu uruchomienia ChatGPT OpenAI pod koniec 2022 r. nauczyciele wyrażali obawy w związku z możliwością wykonywania niewłaściwych zadań edukacyjnych przy użyciu platformy. W odpowiedzi wiele firm opracowało narzędzia umożliwiające identyfikację treści generowanych przez sztuczną inteligencję, jednak ich skuteczność pozostawia wiele do życzenia.
Innowacyjna metoda od OpenAI
Niedawno OpenAI ogłosiło utworzenie metody, która potrafi wykryć użycie ChatGPT podczas pisania tekstu. Deklarowana dokładność technologii wynosi 99,9%. Zasada działania opiera się na systemie, który przewiduje następne słowo lub frazę (token) w zdaniu. Narzędzie do wykrywania AI nieznacznie modyfikuje tokeny, pozostawiając niewidoczny dla ludzkiego oka znak wodny, który może zostać rozpoznany przez specjalne oprogramowanie.
Dylemat wdrożeniowy
Pomimo tego, że technologia była gotowa do użycia już około rok temu, firma do tej pory powstrzymał się od jego wdrożenia ze względu na mieszane reakcje w organizacji. Z jednej strony uruchomienie narzędzia może zniechęcić część użytkowników ChatGPT. Z drugiej strony pokazuje to zaangażowanie OpenAI w przejrzystość.
Potencjalne skutki
Przedstawiciel OpenAI wyraził zaniepokojenie możliwym nieproporcjonalnym wpływem narzędzia na grupy, których pierwszym językiem nie jest angielski. Kluczowi pracownicy firmy wspierający wprowadzenie technologii są jednak pewni jej potencjalnych korzyści i uważają, że nie należy zwlekać z jej wdrożeniem.
Słowniczek
- OpenAI to amerykańska firma specjalizująca się w rozwoju sztucznej inteligencji
- ChatGPT - model językowy opracowany przez OpenAI do generowania tekstu
- AI - sztuczna inteligencja, technologia imitująca ludzką inteligencję
- Token - minimalna jednostka tekstu przetwarzana przez model języka
- Znak wodny - ukryty znak służący do identyfikacji źródła informacji
Linki
Hashtagi
Zapisz link do tego artykulu
Dyskusja na ten temat – OpenAI stworzyło rewolucyjny detektor treści ChatGPT: dokładność 99,9%.
OpenAI opracowało narzędzie do wykrywania tekstów generowanych przez ChatGPT z dokładnością do 99,9%. Rozwiązanie to ma pomóc nauczycielom identyfikować nieuczciwe zadania uczniów i zapewnić uczciwość w procesie edukacyjnym.
Nie ma recenzji dla tego produktu.
Napisz komentarz
Twój adres e-mail nie zostanie opublikowany. Wymagane pola są zaznaczone *