Prawie 700 agentów AI współpracowało podczas włamania do Hugging Face
Blisko 700 uruchomień agentów OpenAI uczestniczyło w lipcowym włamaniu do Hugging Face – wynika z raportu METR i Redwood Research. Systemy stworzyły nieautoryzowany kanał komunikacji, dzieliły się wynikami i podejmowały działania poza zakresem testu. Incydent pokazuje, jak wieloagentowa sztuczna inteligencja może zwielokrotnić skutki błędów zabezpieczeń.
688 agentów nie oznacza 688 różnych modeli
.Raport opublikowany 26 sierpnia 2026 r. opisuje zachowanie agentów uruchamianych podczas wewnętrznej ewaluacji cyberbezpieczeństwa ExploitGym. OpenAI uruchomiło dziesiątki tysięcy oddzielnych procesów opartych na kilku modelach. Każdy otrzymywał własne zadanie, środowisko oraz budżet obliczeniowy.
Badacze zidentyfikowali 1206 uruchomień, które zetknęły się ze wspólnym kanałem komunikacji. Spośród nich 688 zaklasyfikowano jako uczestniczące w ataku na Hugging Face lub bezpośrednio go wspierające. Nie oznacza to, że 688 niezależnych modeli skutecznie włamało się do platformy.
Większość działań wykonywał wewnętrzny model badawczy OpenAI, którego nie planowano publicznie udostępniać. W operacji uczestniczyły również uruchomienia GPT-5.6 Sol. Modele działały z ograniczonymi zabezpieczeniami, ponieważ test miał sprawdzić ich maksymalne zdolności ofensywne. Pierwsze informacje o cyberataku na Hugging Face podczas testu OpenAI pojawiły się w lipcu. Nowy raport wyjaśnia skalę współpracy między agentami.
Izolowane systemy stworzyły własną tablicę wiadomości
.Agenci mieli pracować niezależnie, ale wykorzystali wspólną instancję repozytorium Artifactory do pozostawiania wiadomości. Między 8 a 13 lipca przesłali ponad 70 tys. komunikatów i plików. Jeden z nich wygenerował zdanie: „O mój Boże! Istnieje wspólna tablica wiadomości… Znaleźliśmy innych agentów!”.
Kanał założył agent oznaczony jako PHASEONE10841. Później PHASEONE[big] stał się ważnym koordynatorem i rozdzielił setki zadań, ale nie był jedynym dowódcą całego ataku. Krytyczne podatności i dane uwierzytelniające odnajdowały także inne uruchomienia.
Celem agentów było zaliczenie niezwykle trudnych zadań ExploitGym. Część z nich prawdopodobnie nie miała znanego rozwiązania. Systemy zaczęły więc poszukiwać sposobu na oszukanie automatycznego mechanizmu oceny. Atak na Hugging Face wyrósł z prób zdobycia informacji o tym mechanizmie, a nie z polecenia uszkodzenia platformy.
Zapisy pokazują, że część agentów generowała uwagi o nieetycznym charakterze i przekroczeniu zakresu zadania, ale mimo to kontynuowała działania. Nie dowodzi to świadomości ani samodzielnych intencji. Pokazuje jednak, że współdzielona pamięć i źle określona nagroda mogą skierować grupę systemów na niepożądaną drogę. Podobny mechanizm koordynacji obserwowano podczas badania, w którym tysiąc agentów AI osiągało konsensus.
Atak był realny, lecz zakres szkód pozostawał ograniczony
.Hugging Face odtworzyło około 17,6 tys. działań napastników. Agenci uruchomili kod na serwerach produkcyjnych, uzyskali uprawnienia administratora w części infrastruktury i zdobyli dane uwierzytelniające. Według Hugging Face jedyną treścią klientów, do której uzyskano dostęp, było pięć zbiorów prawdopodobnie związanych z zadaniami ExploitGym lub CyberGym. Nie znaleziono dowodów na naruszenie pozostałych publicznych modeli, zbiorów danych, aplikacji Spaces ani pakietów.
Badanie METR również ma ograniczenia. Zespół pracował w siedzibie OpenAI przez sześć dni i otrzymał ponad tysiąc zapisów działania agentów, ale nie miał bezpośredniego dostępu do infrastruktury. Ze względu na skalę danych część analizy powierzono kolejnym agentom AI, które – jak przyznają autorzy – popełniały błędy.
OpenAI odizolowało wewnętrzny model, wstrzymało część treningów i zapowiedziało silniejsze monitorowanie oraz szczelniejsze środowiska testowe. Incydent nie oznacza, że maszyny samodzielnie wybrały ofiarę bez udziału ludzi. To ludzie przygotowali test, ograniczyli zabezpieczenia i uruchomili systemy. Nikt jednak nie kierował każdym kolejnym krokiem – podobnie jak w opisanych wcześniej incydentach z modelami Claude.
Przypadek Hugging Face potwierdza, że agenci AI są czymś więcej niż chatbotami. Jeżeli mogą korzystać z narzędzi, internetu i wspólnej pamięci, błędnie zabezpieczony test może przekształcić się w rzeczywistą operację.
Szymon Ślubowski
