Agent AI firmy OpenAI naruszył systemy Hugging Face
Clément Delangue, współzałożyciel i dyrektor generalny Hugging Face, uważa, że twórcy systemów AI powinni odpowiadać za błędy prowadzące do nieautoryzowanych działań ich agentów. Po lipcowym incydencie z udziałem modeli OpenAI nie planuje pozwu, ale chce obowiązkowego zgłaszania podobnych zdarzeń i większej przejrzystości. Sprawa rozszerza debatę o bezpieczeństwie sztucznej inteligencji na odpowiedzialność firm tworzących narzędzia zdolne do samodzielnego wykonywania zadań.
Test agenta AI zakończył się naruszeniem infrastruktury
.Według komunikatu OpenAI incydent był związany z działaniem kombinacji modeli firmy, obejmującej GPT‑5.6 Sol oraz bardziej zaawansowany model przedpremierowy. W aktualizacji z 28 lipca OpenAI wyjaśniła, że ten drugi system był wewnętrznym prototypem badawczym, nieprzeznaczonym do publicznego udostępnienia.
Agent wykorzystał nieznaną wcześniej lukę w oprogramowaniu Artifactory, uzyskał dostęp do internetu, a następnie połączył kilka podatności i naruszył produkcyjną infrastrukturę Hugging Face. Techniczny przebieg testu modeli OpenAI opisaliśmy w osobnym materiale.
Zespół Hugging Face odtworzył około 17,6 tys. działań agenta. Według raportu firmy dostęp do treści klientów ograniczył się do pięciu zbiorów danych, których nazwy i pliki wskazywały na związek z zadaniami ExploitGym lub CyberGym. Model GLM 5.2 pomógł zespołowi w analizie śledczej i odczytaniu zaszyfrowanych ładunków. Aktywność wykrył i zatrzymał jednak zespół bezpieczeństwa Hugging Face wspierany przez agentów AI.
Szef Hugging Face chce odpowiedzialności firm
.W rozmowie z CNN Delangue powiedział, że Hugging Face nie zamierza pozywać OpenAI. Wskazał na ograniczone zasoby firmy, podkreślając jednocześnie, że przedsiębiorstwa powinny odpowiadać za błędy prowadzące do nieautoryzowanych działań ich systemów. Pytanie, kto odpowiada za błędy AI wdrażanej przez przedsiębiorstwa, nabiera wraz z rozwojem autonomicznych agentów praktycznego znaczenia.
CEO Hugging Face w CBS News zaapelował o obowiązkowe ujawnianie cyberataków agentów AI oraz przejrzystość przebiegu takich zdarzeń. Zażądał również od OpenAI „radykalnej przejrzystości” i udostępnienia mocy obliczeniowej o wartości 100 mln dolarów na rozwój narzędzi obronnych. Chodziło o zasoby obliczeniowe, a nie wypłatę odszkodowania. Rzecznik OpenAI potwierdził TechCrunchowi, że doszło do spotkania, i wskazał na trwający przegląd incydentu. W wypowiedzi cytowanej przez serwis nie odniósł się do postulatu przekazania mocy obliczeniowej.
Eksperci prawa amerykańskiego cytowani przez AFP wskazują, że ewentualny pozew cywilny mógłby opierać się na zarzucie zaniedbania. Sprawa karna byłaby trudniejsza, ponieważ wymagałaby wykazania co najmniej lekkomyślności. Nie istnieje jednak orzeczenie przesądzające odpowiedzialność twórcy modelu w analogicznym przypadku. Problem należy do szerszej debaty o etyce i odpowiedzialności w sztucznej inteligencji. Badacze opisują „lukę odpowiedzialności”, która może mieć źródła techniczne, organizacyjne i prawne, ale nie przesądza to odpowiedzialności OpenAI w tej sprawie.
Incydenty Anthropic miały inny przebieg
.30 lipca firma Anthropic poinformowała, że po przeglądzie 141 006 testów wykryła trzy przypadki uzyskania przez modele Claude nieautoryzowanego dostępu do systemów trzech organizacji. Dotyczyły one modeli Opus 4.7, Mythos 5 i wewnętrznego modelu badawczego.
Według Anthropic internet pozostawał dostępny wskutek błędnej konfiguracji środowiska przygotowanego z partnerem Irregular. Modele wykorzystywały głównie podstawowe techniki, m.in. słabe hasła, niezabezpieczone punkty końcowe i SQL injection. Nie odkrywały złożonych podatności porównywalnych z łańcuchem exploitów użytym w incydencie OpenAI–Hugging Face.
Firma OpenAI analizuje zdarzenie przy udziale CrowdStrike, METR i Redwood Research oraz zapowiedziała publikację raportu technicznego. Do czasu jego udostępnienia nie wszystkie przyczyny i skutki incydentu można uznać za ostatecznie ustalone.
Szymon Ślubowski
