Anthropic twierdzi, że państwa używają AI do inwigilowania dysydentów

Anthropic poinformował, że zablokował operacje wykorzystujące modele Claude do inwigilowania dysydentów i mniejszości etnicznych. Według raportu działania powiązane z Chinami, Iranem i władzami Mali wykorzystywały sztuczną inteligencję do zbierania informacji, identyfikowania osób i projektowania oprogramowania wywiadowczego. Raport opisuje ustalenia firmy, a nie niezależne wyroki sądowe.

AI automatyzuje część pracy służb

.Anthropic twierdzi, że przypadki wykryte między styczniem a lipcem 2026 r. dotyczyły społeczności, które wcześniej były już obiektem działań władz. Wymieniono między innymi prodemokratycznych działaczy z Hongkongu, społeczności tybetańskie i Falun Gong oraz irańskie mniejszości i przeciwników władz przebywających za granicą.

W jednym z opisanych przypadków irańscy użytkownicy opracowali sposób identyfikowania osób na podstawie ich kont w mediach społecznościowych. W innym wykonawca pracujący dla malijskich służb bezpieczeństwa wykorzystał Claude’a do zaprojektowania oprogramowania służącego do gromadzenia danych.

Anthropic ocenia, że AI zaczyna zastępować część pracy technicznej potrzebnej do prowadzenia takich operacji. Nie oznacza to jednak, że całe działania były prowadzone autonomicznie. Modele generowały analizę, kod lub propozycje rozwiązań, a ich użycie pozostawało związane z decyzjami ludzi.

Problem wykorzystania AI do nadzoru jest częścią szerszej debaty o tym, jak sztuczna inteligencja zmienia władzę i bezpieczeństwo. Firma poinformowała, że konta powiązane z operacjami zostały zablokowane.

Zarzuty wobec Moonshot i DeepSeek

.Anthropic oskarżył również chińskich twórców modeli o wykorzystywanie Claude’a do tak zwanej destylacji. W tym procesie odpowiedzi większego modelu służą do trenowania innego systemu, który ma naśladować jego możliwości.

Według raportu firma Moonshot miała w ciągu dziesięciu dni przekierować do Claude’a prawie 300 tys. zapytań klientów za pośrednictwem 5380 fałszywych kont. Część danych mogła zawierać informacje wrażliwe. Anthropic nie wie, czy użytkownicy zostali poinformowani, że ich pytania trafiały do zewnętrznego dostawcy. Podobne działania miała prowadzić firma DeepSeek.

Są to zarzuty Anthropic. W przywoływanych relacjach nie przedstawiono publicznej odpowiedzi obu firm ani niezależnego audytu potwierdzającego całość ustaleń.

Badania biologiczne i granica między nauką a nadużyciem

.Anthropic zablokował także konta wykorzystywane do prac dotyczących między innymi wirusów, toksyn i jadu. Firma podkreśliła jednak, że nie ustaliła jednoznacznie intencji badaczy i nie twierdzi, że planowali oni wyrządzenie szkody. Ich nazwisk ani laboratoriów nie ujawniono.

To przykład problemu podwójnego zastosowania. Ta sama wiedza może służyć opracowaniu szczepionki, diagnostyce lub ochronie zdrowia, ale również zwiększać możliwości tworzenia niebezpiecznych patogenów. Raport obejmuje także próby projektowania broni i oszustw matrymonialnych.

Anthropic zapowiada dalsze wzmacnianie zabezpieczeń i monitorowania. Szerszy problem polega na tym, że modele AI mogą obniżać koszt prowadzenia operacji, które wcześniej wymagały dużych zespołów programistów i analityków.

Szymon Ślubowski