Człowiek potrafi nauczyć się rozpoznawać teksty tworzone przez sztuczną inteligencję (AI) (np. tekst ChatGPT). Jak wskazują naukowcy z University of Pennsylvania School of Engineering and Applied Science (USA) jest to prostsze dzięki specyficznym błędom popełnianym przez maszyny.
.Rozwój chatbotów, takich jak słynny już ChatGPT może spowodować, że przenikną one do większości sfer życia – zwracają uwagę badacze. W związku z tym pojawiają się różnego typu obawy – o zalew fałszywych informacji, napędzanie dyskryminacji niektórych grup społecznych, czy różnego typu oszustwa.
Okazuje się jednak, że przynajmniej na razie ludzie nie są bezradni i potrafią rozpoznać tekst ChatGPT. „Pokazaliśmy, że można nauczyć się rozpoznawania generowanego przez maszyny tekstu. Ludzie tworzą pewne założenia o tym, jakie błędy komputer będzie popełniał, ale założenia te nie muszą być prawdziwe. Z czasem, przy odpowiedniej liczbie przykładów i dzięki jasnym instrukcjom, możemy się nauczyć wychwytywać błędy, które maszyny rzeczywiście popełniają” – powiedział kierujący badaniem prof. Chris Callison-Burch.
„Sztuczna inteligencja jest zaskakująco dobra w tworzeniu płynnych, gramatycznie poprawnych tekstów. Jednak robi błędy. Pokazaliśmy, że maszyny popełniają specyficzne rodzaje błędów – związane ze zdrowym rozsądkiem, trafnością danej treści, wnioskowaniem i logiką – które można nauczyć się rozpoznawać” – przekazał naukowiec.
Jego zespół wykorzystał w badaniu specjalną, udostępnioną online grę „Real or Fake Text?”. Gracz uczy się w niej na przykładach, z których każdy zaczyna się od tekstu stworzonego przez człowieka, a potem przechodzi w tekst generowany komputerowo. Zadanie polega na znalezieniu tego miejsca.
„Pięć lat temu komputerowe modele nie potrafiły trzymać się tematu czy tworzyć płynnych zdań. Teraz rzadko popełniają gramatyczne błędy. Nasze badanie wskazuje na rodzaje błędów typowych dla chatbotów, ale ważne jest pamiętać, że błędy te cały czas ewoluują. Nie należy się martwić o to, że tekstu tworzonego przez AI nie da się rozpoznać, ale że ludzie będą musieli cały czas uczyć się tego rozróżniania, a także pracy z programami wykrywającymi teksty sztucznej inteligencji” – wyjaśnił jeden z badaczy, Liam Dugan.
Należąca do zespołu dr Daphne Ippolito pracuje – m.in. z producentami gier i pisarzami – także nad jak najlepszym wykorzystaniem tworzącej teksty AI. Żaden z twórców nie stwierdził jednak, że komputer może zastąpić człowieka, choć uważają oni, że mogą one wspierać pracę ludzi.
„Uważam, że obecnie technologie te najlepiej nadają się do twórczego pisania. Doniesienia prasowe, prace zaliczeniowe czy porady prawne nie nadają się do wykorzystania AI, ponieważ nie gwarantuje ona zachowania ścisłości” – powiedział prof. Callison-Burch.
„Istnieją ekscytujące, pozytywne możliwości zastosowań tej technologii. Ludzie skupiają się na przykładach szkodliwego wykorzystania, jak np. tworzenie plagiatów czy fake newsów. Wiemy jednak, że możemy nauczyć się lepiej radzić sobie z czytaniem oraz pisaniem” – zwrócił uwagę Liam Dugan.
Sztuczna inteligencja i ChatGPT nie zagrażają przyszłości nauki
.Narzędzia takie jak ChatGPT [ale i ogólnie rozumiana sztuczna inteligencja] mogą pisać teksty publicystyczne, mało ambitne książki, a nawet ekspertyzy służące do uzasadnienia wcześniej podjętej decyzji. Będą to teksty bezwartościowe, o zerowej wartości poznawczej – intelektualna paplanina – wskazał prof. Leszek PACHOLSKI.
Na przełomie 2022 i 2023 r. w opinii publicznej dyskutowano o zagrożeniu wzrostu oszustw na sprawdzianach i egzaminach (zarówno w szkołach, jak i na uniwersytetach), dzięki szerokiej dostępności narzędzia ChatGPT. Jak wskazał prof. Leszek Pacholski, nowej technologii nie należy się obawiać. Należy wspierać uczniów w jej pozytywnym wykorzystywaniu oraz przekonstruować system edukacji tak, aby odpowiadał dzisiejszej rzeczywistości.
„Po pierwsze, egzaminy można prowadzić w zamkniętych salach, bez dostępu do komputerów i do internetu. Po drugie, można tak skonstruować egzamin, żeby zminimalizować ryzyko skutecznego skorzystania z ChatGPT. Po trzecie, warto postarać się tak kształtować uczniów i studentów, żeby rozumieli, że o ich przyszłym sukcesie nie zadecyduje ocena na egzaminie, lecz kompetencje zdobyte w szkole lub na uczelni. Jeśli natomiast chodzi o pisane w domu rozprawy, prace dyplomowe i magisterskie, to już teraz można bez trudu zamówić ich napisanie przez wykwalifikowane osoby. ChatGPT spowoduje tylko, że ta usługa będzie tańsza. Oczywiście w przypadku prac dyplomowych najlepszym rozwiązaniem będzie właściwa opieka promotora. Może się też zdarzyć, że w Polsce odejdziemy od obowiązkowych prac dyplomowych, gdyż uznamy, że nie jesteśmy w stanie dopilnować tego, żeby były pisane samodzielnie” – wskazywał prof. Leszek PACHOLSKI.
Przykładem wspierania edukacji nie odstającej od dzisiejszych czasów mogłoby być uczenie jak pisać a zarazem rozpoznawać tekst ChatGPT.
PAP/Wszystko co Najważniejsze/KR
