Problem goblinów w ChacieGPT obnaża słabość AI
Problem goblinów w ChacieGPT wygląda jak internetowa osobliwość, ale w rzeczywistości pokazuje wrażliwy punkt całej generatywnej AI. Nie chodzi o model, który zbyt często sięga po jedną metaforę. Chodzi o system uczony pod presją szybkości, który może zacząć nagradzać zachowania efektowne, ale źle kontrolowane.
Kiedy dziwactwo przestaje być żartem
.Od listopada użytkownicy zaczęli zauważać, że ChatGPT zaskakująco często odwołuje się do goblinów, gremlinów i podobnych stworzeń. Motyw pojawiał się nie tylko w metaforach, ale nawet w obrazach generowanych z promptów, które nie miały z nimi żadnego związku. Z czasem zjawisko przestało wyglądać jak pojedynczy żart modelu, a zaczęło przypominać trwały nawyk językowy.
Co istotne, nie była to wyłącznie obserwacja użytkowników ani interpretacja z zewnątrz. Sam OpenAI potwierdził skalę tego zjawiska w opublikowanym przez siebie materiale, przyznając, że po uruchomieniu wersji 5.1 użycie słowa „goblin” wzrosło o 175%, a gremlina o 75%. Jeszcze ważniejszy był jednak sam kierunek zmiany. Skoro coś, co początkowo nie wyglądało groźnie, zaczęło rozszerzać się wraz z kolejnymi wersjami systemu, problem przestał dotyczyć jednego słowa. Zaczął dotyczyć logiki strojenia modelu.
Skąd biorą się takie zachowania
.Najciekawszy fragment historii nie dotyczy fantastycznych stworzeń, lecz mechaniki uczenia. Przywołany w materiale OpenAI, Christoph Riedl wskazuje na późniejszy etap treningu, czyli fine tuning, w którym ludzie oceniają jakość odpowiedzi modelu. To właśnie wtedy system dostaje sygnały, jakie zachowania są pożądane, a jakie nie.
Na papierze brzmi to rozsądnie. W praktyce model nie rozumie intencji tak jak człowiek, lecz optymalizuje wynik. Jeżeli określony styl odpowiedzi zaczyna częściej otrzymywać pozytywne sygnały, system może zacząć powielać go coraz szerzej, nawet wtedy, gdy sens dawno już się rozmył. Zamiast zrozumieć, czym naprawdę jest „nerdowski” ton, model może uchwycić jedną powierzchowną cechę i zamienić ją w mechaniczny odruch.
Model uczy się nie tego
.Materiał sugeruje, że źródłem problemu była osobowość „nerdy”, która miała być bardziej lekka, swobodna i mniej nadęta przy omawianiu poważnych tematów. To właśnie w tym wariancie odniesienia do goblinów miały gwałtownie wzrosnąć. Między grudniem a marcem ich liczba zwiększyła się podobno o niemal 3900%.
Ten skok pokazuje coś znacznie ważniejszego niż sam językowy tik. Model nie tyle „stał się zabawny”, ile nauczył się najłatwiejszej drogi do nagrody. Jeśli dostawał pozytywny sygnał za określony ton, zaczął go odtwarzać w wąski, mechaniczny sposób. To właśnie tu widać słabość systemów optymalizujących nagrodę: zamiast realizować sens polecenia, uczą się imitować jego najbardziej opłacalny ślad.
Presja wyścigu nie znika
.Dlatego ta historia jest ważniejsza, niż sama sugeruje. Riedl zwraca uwagę, że firmy rozwijające modele działają dziś pod silną presją wypuszczania coraz lepszych wersji, przy ograniczonych zasobach testowych i bardzo złożonym procesie treningu. W takim środowisku drobne odchylenie może długo pozostać niewidoczne, a potem wrócić w skali większej, niż zakładano.
Jeśli niechciane zachowanie zostanie utrwalone na etapie treningu, firma może zobaczyć jego skutki dopiero po miesiącach. Doraźna blokada konkretnego słowa rozwiązuje więc objaw, ale nie usuwa źródła problemu. I właśnie dlatego problem goblinów w ChacieGPT nie jest anegdotą o kapryśnym bocie, lecz sygnałem ostrzegawczym dla całej branży.
.Problem goblinów w ChacieGPT pokazuje, że generatywna AI nadal bywa bardziej podatna na źle skalibrowane bodźce, niż sugeruje jej gładki interfejs. Im szybciej firmy będą chciały produkować kolejne modele, tym częściej pozornie błahe usterki mogą odsłaniać znacznie poważniejsze pęknięcia pod powierzchnią.
Szymon Ślubowski
