Najlepszą obroną oprogramowania okazuje się nauczenie AI, jak je atakować

Aby zabezpieczyć oprogramowanie przed atakiem, trzeba najpierw pokazać programiście, jak wygląda atak. Amerykańscy badacze uczą więc sztuczną inteligencję znajdowania i demonstrowania luk, wyłącznie w celach obronnych.

.Za każdym razem, gdy korzystamy z aplikacji, płacimy w sieci albo logujemy się do usługi, nasze dane wędrują przez niewidzialne łącza między programami, zwane interfejsami API. To właśnie tam, w miejscach, których użytkownik nigdy nie widzi, kryją się podatności, czyli słabe punkty oprogramowania. Zespół badaczy z Wake Forest University i Virginia Tech, kierowany przez profesor Ying Zhang wraz z jej dawnymi promotorami Na Meng i Danfeng „Daphne” Yao. Profesor postawił tezę tyleż prostą, co przewrotną. Najlepszym sposobem obrony oprogramowania jest nauczenie sztucznej inteligencji, jak je atakować. Wyniki przedstawiono na prestiżowej konferencji inżynierii oprogramowania FSE 2026 w Montrealu.

Problem, który badacze próbują rozwiązać, jest wszechobecny, a zarazem niewidzialny. Współczesne aplikacje buduje się warstwowo, układając na sobie zewnętrzne biblioteki i cudzy kod, przez co żaden programista nie jest w stanie prześledzić każdego możliwego ryzyka. Wada ukryta głęboko w jednej warstwie potrafi przenieść się w górę i po cichu wystawić na atak systemy, o których zagrożeniu nikt nie wiedział.

Pokaż mi exploit, a to naprawię

.Sedno badania nie jest jednak techniczne, lecz ludzkie. Programiści  pracują pod presją budowania coraz to nowych funkcjonalności co powoduje, że traktują bezpieczeństwo jako sprawę drugorzędną. „Najczęściej bezpieczeństwo jest obywatelem drugiej kategorii”, przyznaje Na Meng. Funkcjonalność wygrywa z ochroną, zwłaszcza gdy ryzyko nie jest od razu widoczne. I tu badacze trafili na sedno problemu, które okazało się psychologiczne.

Gdy programista widzi abstrakcyjne ostrzeżenie, że jego oprogramowanie ma lukę, często je ignoruje albo odkłada naprawę. Reaguje dopiero na konret. Zespół zbudował więc system, który za pomocą dużych modeli językowych, automatycznie tworzy tak zwane proof-of-concept. Demonstracja pokazuje, że dana, znana już luka rzeczywiście daje się wykorzystać. Nie chodzi o dostarczanie broni atakującym, lecz o dowód, który zmusza programistę do działania, zanim zrobi to ktoś o złych zamiarach. W testach system generował takie demonstracje z wysoką niezawodnością, co jest realnym postępem w problemie, który długo opierał się automatyzacji.

Wiedzieć nie tylko że, ale gdzie

.Druga część badań dotyczy łańcucha dostaw oprogramowania, czyli gęstej sieci zależności spinającej współczesne aplikacje. Skala zagrożenia rośnie lawinowo, bo liczba udokumentowanych ataków na ten łańcuch wzrosła w 2022 roku o 742%. Zespół tworzy narzędzia, które automatycznie wskazują, które konkretnie elementy oprogramowania są podatne, a więc informację zwykle niepełną lub całkiem brakującą. Jak ujmuje to Zhang, samo stwierdzenie, że luka gdzieś w systemie istnieje, jest znacznie mniej użyteczne niż wiedza, gdzie dokładnie się znajduje. Im bardziej oprogramowanie jest ze sobą połączone, tym cenniejsza staje się       precyzja. Nowatorstwo podejścia zwróciło już uwagę poza światem akademickim, zainteresowanie projektem okazało między innymi OpenAI.

Sedno tej sprawy wykracza poza jeden system i jedną konferencję. Ujawnia podwójną naturę sztucznej inteligencji w cyberbezpieczeństwie, o której pisaliśmy już na tych łamach przy okazji obrony przed ransomware. To samo narzędzie, które w rękach przestępcy służy do atakowania, w rękach obrońcy staje się tarczą. Różnica nie leży w technologii, lecz w intencji i w tym, kto pierwszy jej użyje. Świat, w którym każda aplikacja jest zbudowana z tysięcy cudzych elementów, potrzebuje obrońców równie sprawnych jak napastnicy, a to znaczy obrońców korzystających z tych samych narzędzi. Logika badaczy z Wake Forest jest więc niewygodna, lecz trudna do obalenia. W wyścigu, w którym atakujący i tak sięgną po sztuczną inteligencję, jedynym sensownym ruchem obrony jest nauczyć się myśleć jak oni, zanim to oni pomyślą pierwsi. Kto chce zamknąć drzwi, musi najpierw wiedzieć, którędy wchodzi się bez pukania.

Szymon Ślubowski