Anthropic wyłącza Fable 5 i Mythos 5

Anthropic wyłączył dostęp do swoich najnowszych modeli sztucznej inteligencji Fable 5 i Mythos 5, aby zastosować się do dyrektywy rządu USA dotyczącej kontroli eksportu. Decyzja objęła nie tylko zagranicznych klientów firmy, lecz także cudzoziemców przebywających w Stanach Zjednoczonych, w tym pracowników Anthropic nieposiadających amerykańskiego obywatelstwa.

.Firma poinformowała, że praktycznym skutkiem dyrektywy było nagłe wyłączenie Fable 5 i Mythos 5 dla wszystkich klientów. Anthropic podkreśla jednocześnie, że inne modele firmy pozostają dostępne.

Najbardziej zaawansowane modele przestają być traktowane wyłącznie jako usługa cyfrowa. Coraz częściej są postrzegane jako technologia, której dostępność może mieć znaczenie dla cyberbezpieczeństwa, obronności i przewagi gospodarczej państwa.

Rząd USA obawia się wykorzystania modeli w cyberatakach

.Według Anthropic rząd USA powołał się na względy bezpieczeństwa narodowego, ale w pisemnej dyrektywie nie podał szczegółowego uzasadnienia. Firma twierdzi, że z późniejszych informacji wynika, iż administracja obawiała się możliwości obejścia zabezpieczeń modelu Fable 5, czyli tzw. jailbreaku.

Jailbreak w modelach AI oznacza próbę zmuszenia systemu do wykonania zadania, którego normalnie powinien odmówić. W tym przypadku chodziło o potencjalne wykorzystanie modelu do zadań związanych z cyberbezpieczeństwem, np. analizą kodu i wyszukiwaniem podatności.

Anthropic utrzymuje, że przedstawiony problem dotyczył wąskiego sposobu obejścia zabezpieczeń, a nie uniwersalnego mechanizmu pozwalającego odblokować szeroki zestaw niebezpiecznych funkcji. Firma twierdzi też, że podobne możliwości są dostępne w innych publicznie używanych modelach.

Firma spiera się z administracją

.Anthropic zapowiedział, że stosuje się do dyrektywy, ale nie zgadza się z procedurą jej wydania. Firma argumentuje, że państwo powinno mieć możliwość blokowania niebezpiecznych wdrożeń AI, ale tylko w ramach jasnego, przejrzystego i opartego na faktach procesu.

W oficjalnym oświadczeniu Anthropic napisał, że decyzja rządu nie spełnia tych warunków. Firma określiła sprawę jako „nieporozumienie” i zapowiedziała prace nad przywróceniem dostępu do modeli tak szybko, jak będzie to możliwe.

Spór jest istotny, ponieważ dotyczy granicy między dobrowolną współpracą firm AI z państwem a realną możliwością administracyjnego zatrzymania dostępu do modelu. Do tej pory regulacja najpotężniejszych systemów AI opierała się w dużej mierze na deklaracjach firm, testach bezpieczeństwa, red-teamingu i dobrowolnych zobowiązaniach. Teraz pojawia się element przymusu państwowego.

Fable 5 i Mythos 5 są najnowszymi modelami Anthropic

.Fable 5 został szeroko udostępniony kilka dni przed wyłączeniem. Był przedstawiany jako ograniczona wersja jeszcze mocniejszego Mythos 5, do którego Anthropic i tak miał utrzymywać ściślejszą kontrolę dostępu z powodu obaw dotyczących cyberbezpieczeństwa.

To pokazuje, jak trudne staje się udostępnianie modeli granicznych. Firma może budować zabezpieczenia, testować model z partnerami i ograniczać funkcje, ale administracja może uznać, że sam potencjał nadużycia wystarcza do czasowego zablokowania dostępu.

Według Anthropic przed premierą Fable 5 model był testowany przez wewnętrzne zespoły, podmioty zewnętrzne oraz partnerów rządowych, w tym brytyjski AI Safety Institute. Firma twierdzi, że testy nie wykazały uniwersalnego jailbreaku.

Nowy porządek kontroli modeli AI

.Decyzja wobec Anthropic nastąpiła kilkanaście dni po podpisaniu przez prezydenta Donalda Trumpa rozporządzenia wykonawczego dotyczącego innowacji i bezpieczeństwa zaawansowanej AI. Dokument przewiduje m.in. stworzenie procesu oceny zdolności cybernetycznych modeli granicznych oraz dobrowolny mechanizm współpracy firm z rządem przed udostępnieniem najpotężniejszych systemów.

Rozporządzenie nie ustanawia formalnego obowiązku licencjonowania każdego nowego modelu. Zawiera jednak ramy, w których państwo ma uzyskać lepszy wgląd w możliwości systemów mogących mieć znaczenie dla cyberbezpieczeństwa. W praktyce sprawa Anthropic pokazuje, że granica między dobrowolną współpracą a naciskiem regulacyjnym może być cienka.

Dla branży AI to sygnał ostrzegawczy. Jeśli rząd USA może szybko ograniczyć dostęp do dwóch najnowszych modeli jednej z najważniejszych firm, podobne ryzyko zaczyna dotyczyć także innych dostawców modeli granicznych.

Skutki wykraczają poza Stany Zjednoczone

.Sprawa ma znaczenie międzynarodowe. Dyrektywa dotyczyła cudzoziemców, a więc mogła objąć klientów i pracowników spoza USA nawet wtedy, gdy korzystali z technologii w państwach sojuszniczych albo w amerykańskiej firmie.

To wzmacnia debatę o suwerenności technologicznej. Państwa i przedsiębiorstwa korzystające z amerykańskich modeli AI muszą brać pod uwagę, że dostęp do najpotężniejszych systemów może zostać ograniczony z powodów politycznych lub bezpieczeństwa narodowego.

Dla Europy, Kanady, Japonii czy państw Zatoki oznacza to trudne pytanie: czy wystarczy kupować dostęp do najlepszych modeli amerykańskich firm, czy trzeba budować własne zdolności, własne modele i własne instytuty bezpieczeństwa AI.

AI jak technologia strategiczna

.Wyłączenie Fable 5 i Mythos 5 pokazuje, że najpotężniejsze modele AI zaczynają być traktowane podobnie jak półprzewodniki, narzędzia kryptograficzne, technologie wojskowe czy systemy podwójnego zastosowania. Mogą przynosić korzyści gospodarce i nauce, ale mogą też wzmacniać zdolności ofensywne w cyberprzestrzeni.

Najważniejsze pytanie nie brzmi już tylko, czy model jest „bezpieczny”. Brzmi ono szerzej: kto ma prawo oceniać jego bezpieczeństwo, na podstawie jakich testów, w jakiej procedurze i z jaką możliwością odwołania.

Anthropic od lat buduje wizerunek firmy bardziej ostrożnej niż część konkurentów. Teraz sam stał się przykładem tego, że nawet firma deklarująca silne podejście do bezpieczeństwa może wejść w konflikt z państwem, jeśli administracja uzna, że ryzyko jest zbyt duże.

To precedens, który może ukształtować kolejną fazę wyścigu AI. Najpotężniejsze modele będą nie tylko produktem technologicznym. Będą również przedmiotem kontroli eksportu, testów bezpieczeństwa i geopolitycznej gry o dostęp do najważniejszej infrastruktury cyfrowej.

Szymon Ślubowski