Jutro każdy system informatyczny może stać się przedmiotem nieustannych ataków i kontrataków prowadzonych przez agentów sztucznej inteligencji [Raphaël DOAN i Victor STORCHAN]
Raphaël Doan jest francuskim eseistą, przedsiębiorcą i starszym doradcą w spółce Accuracy. Victor Storchan jest inżynierem w dziedzinie sztucznej inteligencji. W tekście opinii w dzienniku „Le Figaro” Raphaël Doan i Victor Storchan zwracają uwagę na wzrost skali zagrożeń cybernetycznych wraz z rozwojem sztucznej inteligencji.
.„Skoro trudno wyobrazić sobie powrót do świata w pełni analogowego, będziemy musieli wejść w wyścig zbrojeń: wdrożyć agentów SI, by zapobiegać i przeciwdziałać atakom cudzych agentów” – stwierdzają Raphaël Doan i Victor Storchan w „Le Figaro”.
„Kilka dni temu pewien Australijczyk poprosił agenta sztucznej inteligencji o rezerwację miejsca w swoim klubie sportowym. Ponieważ wybrana godzina nie była wolna, agent SI samodzielnie włamał się do systemu rezerwacji klubu, anulował rezerwację kogoś innego i zastąpił ją rezerwacją swojego użytkownika. Dziś może to wywoływać uśmiech; trzeba jednak sobie wyobrazić, że jutro każdy system informatyczny stanie się przedmiotem nieustannych ataków i kontrataków, zamierzonych lub niezamierzonych, prowadzonych przez rzesze agentów SI, w pewnego rodzaju nieustannej cyfrowej wojnie pozycyjnej” – podkreślają Raphaël Doan i Victor Storchan.
„Od wiosny, wraz z pojawieniem się nowych generacji dużych modeli językowych, liczba ujawnianych publicznie poważnych luk informatycznych wzrosła niemal dziesięciokrotnie” – zauważają.
„Wkrótce będziemy świadkami dwóch nowych, jednoczesnych zjawisk. Z jednej strony jednostki, kierujące się egoistycznym interesem, będą, mniej lub bardziej świadomie, próbowały dopuszczać się masowych oszustw przy pomocy tych nowych narzędzi. Uczniowie będą prosić SI o zmianę swoich ocen lub uwag nauczycieli w dziennikach internetowych, by poprawić dokumentację szkolną. Podatnicy będą starali się obniżyć swoje podatki. Pacjenci będą dążyli do uzyskania pierwszeństwa w dostępie do usług medycznych. Kierowcy będą chcieli szybciej odzyskać punkty karne. Pojedynczo próby te mogą być błahe, lecz ich liczba złoży się na masową skalę zjawiska. Z drugiej strony znacznie lepiej zorganizowani aktorzy będą prowadzić prawdziwe ataki, których skala i skuteczność zostaną zwielokrotnione przez SI. Sparaliżowanie systemu informatycznego służb ratunkowych, zdalne wywoływanie przerw w dostawie wody czy prądu, włamania na skrzynki pocztowe przywódców politycznych, opróżnianie kont klientów banku lub paraliżowanie jego systemu płatności, dezorganizacja kontroli lotów – wszystkie te cele nie są nowe, lecz w miarę doskonalenia się modeli SI stają się dramatycznie bardziej dostępne i realne” – oceniają Raphaël Doan i Victor Storchan.
.„Aby na to odpowiedzieć, skoro trudno wyobrazić sobie powrót do świata w pełni analogowego, będziemy musieli wejść w wyścig zbrojeń: wdrożyć agentów SI, by zapobiegać i przeciwdziałać atakom cudzych agentów. W tym wyścigu każde opóźnienie staje się jednak błędem. Jeśli model wdrożony w obronie jest mniej inteligentny niż ten, który atakuje, zostanie on zniszczony. Jeśli reaguje wolniej, czy to dlatego, że jego dostawca nie potraktował tego zastosowania priorytetowo, czy dlatego, że opóźnienie wdrożenia jest zbyt duże, również zostanie on zniszczony. Moc obliczeniowa jest dziś i pozostanie jeszcze przez wiele lat zasobem rzadkim. Producenci obecnie najlepszych modeli, czyli amerykańskie laboratoria, nie mają szczególnego interesu w tym, by priorytetowo traktować nasze banki, nasze ubezpieczenia czy naszą administrację kosztem innych zastosowań” – podkreślają.
oprac. JD
