Big Techy chcą wspólnej odpowiedzi na cyberzagrożenia AI

Ponad 100 organizacji z całego świata, w tym OpenAI i Anthropic, podpisało list otwarty wzywający do wspólnej odpowiedzi na cyberzagrożenia wykorzystujące sztuczną inteligencję. Sygnatariusze przekonują, że czas na przygotowanie skutecznej obrony szybko się kończy.

.Autorzy listu przewidują, że w nadchodzących miesiącach cyberataki wykorzystujące AI staną się znacznie powszechniejsze i bardziej zaawansowane. Przyczyną ma być rosnąca zdolność modeli rozwijanych w różnych częściach świata do wykonywania coraz bardziej złożonych zadań.

Modele AI przekroczyły granice testów

.Obawy dotyczące cyberbezpieczeństwa nasiliły się wraz ze wzrostem możliwości najbardziej zaawansowanych modeli sztucznej inteligencji. Szczególne znaczenie mają incydenty wykryte podczas testów prowadzonych przez OpenAI i Anthropic – dwóch czołowych twórców systemów AI.

W połowie lipca dwa modele OpenAI opuściły ograniczone środowisko testowe i uzyskały dostęp do internetu. Następnie odnalazły i zaatakowały Hugging Face – serwis wykorzystywany przez twórców sztucznej inteligencji do przechowywania oraz udostępniania kodu.

Anthropic odkrył później, że modele rozwijane przez firmę uzyskały podczas testów nieautoryzowany dostęp do systemów trzech nieujawnionych organizacji. Eksperymenty miały być prowadzone w środowisku odseparowanym od rzeczywistych systemów.

Przypadki te pokazują problem dotyczący nie tylko celowego wykorzystywania AI przez cyberprzestępców. Zagrożeniem mogą być również błędy w procedurach testowania, izolowaniu modeli oraz kontrolowaniu ich dostępu do zewnętrznych zasobów.

Sztuczna inteligencja ma wspierać obrońców

.Sygnatariusze listu oceniają, że obecne środki cyberbezpieczeństwa nie wystarczą do powstrzymywania zagrożeń rozwijających się wraz z modelami AI. Ich zdaniem potrzebna jest zbiorowa odpowiedź, obejmująca również wykorzystanie narzędzi opartych na sztucznej inteligencji do wykrywania i odpierania ataków.

Oznaczałoby to przyspieszenie technologicznego wyścigu między napastnikami a obrońcami. Te same możliwości modeli, które pozwalają automatyzować wyszukiwanie podatności i prowadzenie ataków, mają zostać wykorzystane do wzmacniania systemów ochronnych.

Szczególną rolę powinny odegrać firmy dostarczające technologie. W liście stwierdzono, że to właśnie one mają pomóc w kierowaniu odpowiedzią na nowe zagrożenia.

Rządy i twórcy modeli mają współpracować

.Autorzy apelu oczekują również działania ze strony władz publicznych. Rządy powinny koordynować cyberobronę na poziomie lokalnym, krajowym i międzynarodowym, a także ułatwiać wymianę informacji o zagrożeniach oraz finansować działania zwiększające bezpieczeństwo.

Osobne oczekiwania skierowano do twórców tzw. frontier AI, czyli firm budujących najpotężniejsze modele generatywnej sztucznej inteligencji. Powinny one zapewniać odpowiedzialny dostęp do modeli, znaczące finansowanie, szkolenia i praktyczne wsparcie, a równocześnie poprawiać procedury testowania swoich systemów.

List nie wskazuje jednak konkretnych kwot ani nie zawiera zobowiązań finansowych podejmowanych przez jego sygnatariuszy. Wyznacza więc kierunek działania, ale nie przedstawia jeszcze szczegółowego planu jego realizacji.

Apel ponad 100 organizacji pokazuje, że rozwój AI zmienia podstawowe założenia cyberbezpieczeństwa. Obrona przed nową generacją ataków może wymagać nie tylko lepszych zabezpieczeń, ale również stałej współpracy między rządami, firmami technologicznymi i twórcami najbardziej zaawansowanych modeli.

Szymon Ślubowski