Sztuczna inteligencja i wojsko. Kto podejmuje decyzję o użyciu siły

Wojskowa przewaga zawsze opierała się na szybkości: kto wcześniej rozpoznał sytuację, przekazał informację i podjął decyzję, ten dyktował warunki. Dowódca, który pierwszy dostrzegł ruch przeciwnika, zdążył przygotować obronę, zmienić pozycję albo uderzyć. Sztuczna inteligencja radykalnie skraca odstęp między wykryciem zagrożenia a reakcją.

.Przewaga płynąca z szybkości ma jednak cenę. Im krótszy czas na decyzję, tym silniejsza presja, by zaufać rekomendacji systemu. Dowódca formalnie zachowuje prawo do jej zatwierdzenia, ale w praktyce dostaje kilka sekund na ocenę wyniku, którego drogi powstania nie rozumie.

Najważniejsza zmiana nie polega więc na tym, że maszyna zastąpi żołnierza. Polega na tym, że rytm pola walki zaczyna się dostrajać do szybkości maszyn, zostawiając człowiekowi coraz mniej miejsca na samodzielny osąd.

Algorytm widzi więcej, ale nie rozumie pola walki

.Rozpoznanie, obserwacja i wywiad to dziś najlepiej rozwinięte obszary wojskowego zastosowania AI. Modele komputerowego widzenia przeszukują zdjęcia satelitarne, identyfikują pojazdy, porównują zmiany w terenie i wychwytują ruch obiektów. Inne systemy analizują sygnały elektromagnetyczne, dane logistyczne albo zachowania jednostek.

Wartość takich narzędzi jest oczywista. Analityk nie musi oglądać każdej klatki nagrania, bo algorytm wskaże fragmenty, na których pojawił się nowy obiekt, zmienił się układ sprzętu albo zaobserwowano ruch przy infrastrukturze. Uwaga człowieka trafia tam, gdzie zagrożenie jest najbardziej prawdopodobne. To już nie teoria. Amerykański Project Maven, uruchomiony w 2017 roku, wykorzystuje komputerowe widzenie do analizy obrazu z dronów i był stosowany na Bliskim Wschodzie oraz w Ukrainie. Izraelski system „Gospel” (Habsora) generuje z kolei cele dla lotnictwa: według wojska na początku wojny w Gazie wskazał ponad 12 tysięcy obiektów, a tempo uderzeń sięgało nawet 250 celów dziennie.

Model nie widzi jednak czołgu, magazynu amunicji ani cywilnego autobusu w ludzkim sensie tych słów. Rozpoznaje konfigurację cech, która na podstawie danych przypomina określoną kategorię. Pomyli więc makietę ze sprzętem bojowym, pojazd cywilny z wojskowym, akcję ratunkową z przygotowaniem operacji.

Przeciwnik będzie do tego dążył celowo. Kamuflaż, pozorowane pozycje, zakłócenia, fałszywe sygnały i spreparowane dane staną się orężem przeciw wojskowej AI. Algorytm przetwarza więcej informacji niż człowiek, lecz każda dodatkowa porcja danych otwiera nową drogę, którą można go wprowadzić w błąd.

Identyfikacja obiektu nie jest decyzją o ataku

.Najgroźniejsze uproszczenie utożsamia wykrycie celu z prawem do jego zaatakowania. System z wysokim prawdopodobieństwem rozpozna typ pojazdu, budynku czy urządzenia. To jednak nie znaczy, że obiekt jest w danej chwili legalnym celem wojskowym.

Decyzja o użyciu siły wymaga oceny szerszego kontekstu. Trzeba ustalić, czy cel rzeczywiście służy działaniom zbrojnym, czy atak przyniesie konkretną korzyść militarną, jakie stworzy zagrożenie dla ludności cywilnej i czy istnieje mniej niebezpieczna droga do tego samego efektu.

Algorytm dostarcza danych wspierających tę ocenę. Nie wolno mu przekształcać prawdopodobieństwa w automatyczną zgodę na atak. Wynik „obiekt wojskowy: 91 procent” nie jest rozkazem, podobnie jak niski poziom przewidywanych strat cywilnych nie zwalnia dowódcy z analizy sytuacji.

Problem robi się szczególnie poważny, gdy system splata dane techniczne z profilami zachowań ludzi. Częstotliwość przemieszczania się, kontakty, obecność w danym miejscu czy sposób korzystania z telefonu bywają traktowane jako przesłanki przynależności do wrogiej struktury. Człowiek zostaje wtedy sprowadzony do wzorca statystycznego. Najgłośniejszym przykładem jest izraelski system „Lavender”, opisany w śledztwie magazynu +972 i Local Call, potwierdzonym następnie przez „Guardiana” i „New York Timesa”. Według relacji sześciu oficerów wywiadu system oznaczył w Gazie około 37 tysięcy osób jako podejrzanych bojowników, przypisując każdej ocenę prawdopodobieństwa. Choć znano jego błędność rzędu 10 procent, wojsko zaakceptowało masowe użycie systemu po tym, jak próbka trafień wykazała około 90 procent zgodności. Izraelska armia zaprzeczyła, by używała AI identyfikującej bojowników, określając Lavender jako bazę danych do kojarzenia źródeł wywiadowczych.

A prawo konfliktów zbrojnych nie zna kategorii „człowieka podobnego do celu”. Wymaga rozróżniania uczestników walki i ludności cywilnej oraz środków ostrożności przed atakiem.

Dron nie zawsze jest bronią autonomiczną

.Debata o AI w wojsku nagminnie miesza kilka pojęć. Bezzałogowy statek powietrzny bywa zdalnie sterowany przez operatora, działa automatycznie według ustalonej trasy albo dysponuje funkcjami autonomicznymi pozwalającymi reagować na zmienne otoczenie. To trzy różne rzeczy.

Samo użycie drona nie oznacza więc oddania maszynie decyzji o ataku. Operator prowadzi lot, obserwuje obraz i osobno zatwierdza użycie uzbrojenia. Autonomia bywa ograniczona do nawigacji, omijania przeszkód, powrotu do bazy albo utrzymywania pozycji.

Zasadnicza zmiana następuje wtedy, gdy system po aktywacji sam wybiera konkretny cel i stosuje wobec niego siłę na podstawie danych z czujników oraz ogólnego profilu zadanego przez człowieka. Operator wyznacza obszar, czas działania i kategorię obiektów, lecz nie zna już dokładnego miejsca ani chwili ataku. Najczęściej przywoływanym przykładem jest turecki dron Kargu-2: raport Panelu Ekspertów ONZ ds. Libii z marca 2021 roku opisał, jak amunicja krążąca tego typu ścigała wycofujące się oddziały, zaprogramowana do ataku „bez wymogu łączności między operatorem a pociskiem”, w trybie „wystrzel, zapomnij i znajdź”. Zdarzenie bywa nazywane pierwszym możliwym autonomicznym atakiem w historii, choć raport nie przesądza ani że dron działał wówczas samodzielnie, ani że ktokolwiek zginął, a producent zaprzecza, by maszyna mogła zaatakować bez decyzji operatora. Ten spór sam w sobie pokazuje, jak płynna jest granica definicji.

Takie militarne zastosowanie sztucznej inteligencji zmienia charakter odpowiedzialności. Operator nie naciska przycisku w chwili, gdy widzi cel. Uruchamia system, który dopiero później sam reaguje na otoczenie.

A im mniej przewidywalne jest to otoczenie, tym większe ryzyko, że maszyna napotka sytuację, której nie wziął pod uwagę żaden z projektantów, dowódców ani operatorów.

Człowiek w pętli nie zawsze oznacza ludzką kontrolę

.W sporze o autonomiczną broń wraca postulat pozostawienia „człowieka w pętli”. Sformułowanie brzmi uspokajająco, lecz mieści w sobie skrajnie różne poziomy kontroli.

W pierwszym modelu człowiek zatwierdza każdy pojedynczy atak po zapoznaniu się z danymi. W drugim system sam wybiera i razi cele, a operator jedynie obserwuje przebieg i próbuje go przerwać. W trzecim człowiek ustala misję przed startem, ale później nie ma już realnej możliwości interwencji. To trzy zupełnie różne stopnie nadzoru pod jedną uspokajającą nazwą.

Sama obecność operatora przed ekranem niczego nie gwarantuje. Znacząca kontrola wymaga, by człowiek rozumiał możliwości i ograniczenia systemu, dysponował dostateczną informacją i czasem na ocenę rekomendacji oraz miał realną zdolność zatrzymania działania.

Kontrola staje się pozorna, gdy jeden operator nadzoruje wiele maszyn, system pracuje z prędkością wykluczającą analizę albo interfejs podaje rekomendację jako niemal pewną. Człowiek pełni wtedy funkcję moralnego i prawnego bezpiecznika wyłącznie na papierze. Najdobitniej obrazuje to ponownie sprawa systemu Lavender. Według relacji oficerów zacytowanych przez +972 i Local Call zatwierdzenie pojedynczego celu zajmowało nieraz około 20 sekund, a człowiek sprowadzał swoją rolę do upewnienia się, że wskazana osoba jest mężczyzną. „Człowiek w pętli” formalnie istniał. W praktyce był pieczątką.

Problem trafnie ujmuje analiza inteligentnej broni: autonomia systemów nie znosi odpowiedzialności ludzi, lecz utrudnia ustalenie, kto naprawdę podjął decyzję.

Obrona przeciwlotnicza pokazuje potrzebę automatyzacji

.Nie każde użycie autonomii zasługuje na tę samą ocenę. System obrony przeciwlotniczej czy przeciwrakietowej ma sekundy na wykrycie nadlatującego pocisku, ocenę trajektorii i przechwycenie. Żądanie pełnej, ręcznej analizy każdego działania uczyniłoby obronę bezużyteczną.

O wszystkim decyduje środowisko. System reagujący na pociski w wyznaczonej przestrzeni, z dala od ludności cywilnej, działa w zupełnie innych warunkach niż uzbrojony dron szukający ludzi w mieście. W pierwszym przypadku kategorie obiektów i czas działania da się określić względnie jasno. W drugim kontekst jest społeczny, dynamiczny i pełen niejednoznaczności.

Zakres dopuszczalnej autonomii powinien więc zależeć od rodzaju celu, przewidywalności otoczenia, czasu na reakcję, możliwych skutków błędu i zdolności człowieka do przerwania działania.

Jednolita odpowiedź na pytanie, czy wojsko może używać systemów autonomicznych, byłaby zbyt prosta. Liczy się co innego: które funkcje wolno automatyzować, wobec jakich celów i pod jakimi ograniczeniami.

Dowódca może otrzymać rekomendację, której nie potrafi zakwestionować

.AI w wojsku nie kończy się na uzbrojeniu. Modele wspierają planowanie operacji, analizują możliwe ruchy przeciwnika, porównują warianty uderzenia i przewidują skutki logistyczne. System zaproponuje trasę, skład sił, kolejność celów albo moment rozpoczęcia operacji.

Takie zastosowania nie uruchamiają broni bezpośrednio, lecz potrafią silnie ukierunkować użycie siły. Dowódca, który dostaje ranking najlepszych wariantów, łatwo potraktuje pierwszy wynik jako rozwiązanie neutralne i technicznie optymalne. Model nie jest jednak bezstronnym sztabowcem. Realizuje cele zadane przez projektantów i pracuje na danych, które bywają niepełne.

Za najlepszy uzna więc wariant minimalizujący straty własne, choćby zwiększał zagrożenie dla cywilów. Sięgnie po szybkie uderzenie, bo nie potrafi należycie zważyć politycznych skutków eskalacji. Pominie rozwiązanie nietypowe, którego nie przypomina nic w danych treningowych.

Wspomaganie dowodzenia rodzi ryzyko automatyzacyjnego posłuszeństwa. Rekomendacja podana w formie mapy, rankingu i precyzyjnego prawdopodobieństwa wygląda na bardziej obiektywną niż intuicja oficera, choć skrywa równie subiektywne założenia.

Dowódca zachowuje odpowiedzialność tylko wtedy, gdy ma prawo, wiedzę i odwagę powiedzieć systemowi „nie”.

Rój dronów rozprasza decyzję o użyciu siły

.Rój wielu współpracujących maszyn dzieli zadania, wymienia informacje i dostosowuje zachowanie do strat oraz zmian w otoczeniu. Jedna jednostka prowadzi rozpoznanie, druga zakłóca łączność, trzecia razi wykryty obiekt. Całość działa nawet po utracie części urządzeń.

Militarna wartość roju płynie ze skali, szybkości i odporności. Dokładnie te cechy wymykają się jednak kontroli. Operator nie pokieruje ręcznie każdym dronem ani nie zatwierdzi osobno każdej mikrodecyzji. Wyznacza cele, granice i reguły, a potem nadzoruje zachowanie systemu jako całości. To nie odległa wizja: amerykański program Replicator, ogłoszony w 2023 roku, zakłada rozmieszczenie tysięcy tanich, autonomicznych systemów bezzałogowych, a część analityków bezpieczeństwa ostrzega, że uzbrojone roje zdolne do samodzielnego rażenia ludzi mogłyby z czasem pełnić funkcję broni masowego rażenia.

Rodzi się pytanie, na jakim poziomie ma zapadać zgoda na użycie siły. Czy wystarczy decyzja o uruchomieniu roju, skoro poszczególne maszyny samodzielnie wybierają potem sposób wykonania misji? Jak zatrzymać system po zerwaniu łączności? Kto odpowiada za zachowanie wyłaniające się ze współpracy wielu urządzeń?

Rój obnaża rzecz zasadniczą: decyzja bojowa nie zawsze jest pojedynczym momentem naciśnięcia przycisku. Bywa rozłożona między projektanta, dowódcę, operatora i algorytm działający już po rozpoczęciu operacji.

Logistyka może przesądzić o wyniku wojny

.Najważniejsze wojskowe zastosowania AI wcale nie muszą prowadzić wprost do ataku. Armia potrzebuje paliwa, amunicji, części zamiennych, żywności, transportu, energii i opieki medycznej. Jednostka bez zaopatrzenia traci zdolność działania niezależnie od jakości uzbrojenia.

Algorytmy prognozują zużycie zapasów, dobierają trasy transportu, wykrywają ryzyko opóźnień i planują rozmieszczenie magazynów. Dane z pojazdów i maszyn pozwalają wcześniej rozpoznać zużycie części i zaplanować serwis przed awarią.

AI wspiera również ewakuację medyczną, wskazuje dostępne trasy i pomaga ustalać priorytety transportu rannych. Takie narzędzia nie wywołują tak ostrych sporów etycznych jak autonomiczna broń, choć i one wymagają bezpiecznych danych oraz zdolności działania po utracie łączności.

Armia, która trafniej przewiduje własne potrzeby, walczy dłużej i mniejszym kosztem. Przewaga algorytmiczna rodzi się więc nie tylko na linii frontu, ale i w magazynach, warsztatach, centrach transportowych oraz systemach zaopatrzenia.

Dane stają się częścią uzbrojenia

.Model AI jest wart tyle, ile dane, na których pracuje. Wojsko potrzebuje informacji aktualnych, wiarygodnych, właściwie oznaczonych i dostępnych w odpowiednim czasie. Dane z różnych rodzajów sił zbrojnych, państw sojuszniczych i systemów technicznych muszą dać się połączyć.

Przeciwnik będzie ten proces rozbijał. Zniszczy czujniki, przejmie transmisję, podstawi fałszywe dane albo zmanipuluje modele. System rozpoznania, który otrzyma zafałszowany obraz sytuacji, zadziała dokładnie zgodnie z projektem, a mimo to poprowadzi dowódcę do błędnego wniosku.

AI poszerza w ten sposób pole cybernetycznej i kognitywnej wojny. Atak nie musi już niszczyć broni. Wystarczy podważyć zaufanie do danych albo skłonić obrońcę, by sam podjął złą decyzję.

Wojsko potrzebuje więc procedur sprawdzania pochodzenia danych, wykrywania manipulacji i przechodzenia do działania bez wsparcia AI. Armia całkowicie zależna od cyfrowych rekomendacji okaże się bezradna w chwili, gdy przeciwnik odetnie łączność albo zakłóci system.

Odpowiedzialność nie może rozpłynąć się między człowiekiem a maszyną

.Autonomiczne systemy kuszą rozproszeniem odpowiedzialności. Dowódca powie, że system zadziałał inaczej, niż przewidywano. Operator wskaże, że wykonywał zatwierdzoną procedurę. Producent stwierdzi, że oprogramowania użyto poza przewidzianymi warunkami. Programista nie znał wojskowego kontekstu zastosowania własnego kodu. Każdy ma alibi.

Maszyna nie stanie jednak przed sądem, nie wyjaśni motywów ani nie poniesie kary. Odpowiedzialność prawna i moralna musi pozostać przy ludziach i instytucjach.

Państwo odpowiada za sposób prowadzenia działań zbrojnych. Dowódcy za planowanie i wydane rozkazy. Operatorzy za użycie systemów zgodnie z prawem i zasadami działania. Projektanci oraz producenci za to, by narzędzie dało się testować, kontrolować i stosować w wyznaczonych granicach.

Rozłożenie procesu decyzyjnego na wiele etapów nie może kończyć się tym, że ostatecznie nie odpowiada nikt. Państwo wdrażające system powinno z góry określić, kto ma prawo go aktywować, jakie cele wolno wybierać, kiedy człowiek musi interweniować i jak zostanie zbadany ewentualny błąd.

Międzynarodowe prawo nie może zatrzymać się przed algorytmem

.Prawo konfliktów zbrojnych obowiązuje niezależnie od użytej technologii. Zasady rozróżniania, proporcjonalności i środków ostrożności nie znikają dlatego, że decyzję wspiera model.

Międzynarodowy Komitet Czerwonego Krzyża postuluje zakaz systemów autonomicznych, których skutków nie da się wystarczająco przewidzieć ani kontrolować, oraz zakaz używania autonomicznej broni do bezpośredniego atakowania ludzi. Sekretarz generalny ONZ wzywał państwa do wypracowania prawnie wiążących reguł dla systemów działających bez odpowiedniej ludzkiej kontroli, ze wskazaniem 2026 roku jako horyzontu prac. Poparcie polityczne rośnie: w grudniu 2024 roku rezolucję Zgromadzenia Ogólnego ONZ w sprawie śmiercionośnych systemów autonomicznych przyjęto 166 głosami za, przy zaledwie trzech przeciw (Rosja, Korea Północna, Białoruś) i piętnastu wstrzymujących się. Ponad sto państw uznaje nowy traktat za potrzebny i pilny.

Spór dotyczy nie tylko zakazu konkretnej broni, ale i samych definicji. Państwa różnią się w ocenie, czym jest system autonomiczny, jaki poziom ludzkiej kontroli wystarcza i czy obok istniejących zasad humanitarnych potrzebne jest nowe prawo. Najwięksi gracze technologiczni, w tym Stany Zjednoczone, sprzeciwiają się na razie rozpoczęciu formalnych negocjacji traktatu.

Brak porozumienia nie hamuje rozwoju technologii. Tworzy za to ryzyko, że praktyka wojskowa wyprzedzi normy, a reguły powstaną dopiero po pierwszych poważnych błędach.

AI Act nie reguluje pola walki

.Europejski AI Act nie jest główną odpowiedzią prawną na wojskowe użycie sztucznej inteligencji. Systemy opracowane i używane wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego wyłączono z zakresu rozporządzenia.

To rozróżnienie tłumaczy, dlaczego tekst o AI w wojsku pozostaje odrębny od analizy regulacji rynku cywilnego. Na polu walki rozstrzygają międzynarodowe prawo humanitarne, prawo krajowe, procedury wojskowe, zasady użycia siły oraz polityczna kontrola nad armią.

Wyłączenie spod AI Act nie tworzy jednak prawnej pustki ani dowolności. Państwa powinny badać legalność nowego rodzaju uzbrojenia przed wdrożeniem, testować systemy w warunkach zbliżonych do rzeczywistych i wyznaczać granice zastosowania.

Co dopuszczalne w systemie logistycznym, nie musi być dopuszczalne przy wyborze celu. Model wspierający naprawę pojazdów wolno oceniać inaczej niż system wpływający na śmierć człowieka.

Firmy technologiczne wchodzą do systemu dowodzenia

.Rozwój AI napędzają w dużej mierze prywatne przedsiębiorstwa. To one mają modele, chmurę, dane, satelity, infrastrukturę obliczeniową i specjalistów, których administracji wojskowej często brakuje. Współpraca z sektorem prywatnym jest więc nieunikniona, lecz tworzy nowe zależności.

Państwo korzysta wtedy z systemu, którego pełna architektura pozostaje własnością dostawcy. Aktualizacja modelu, zmiana warunków licencji albo ograniczenie dostępu do infrastruktury wprost przekładają się na zdolności wojskowe. Najgroźniejsza jest sytuacja, w której armia nie potrafi samodzielnie wyjaśnić, przetestować ani naprawić narzędzia używanego do podejmowania decyzji.

Geopolityka sztucznej inteligencji dotyczy więc również wojska. Państwo zależne od cudzych chipów, chmury, modeli i danych może mieć nowoczesne uzbrojenie, a zarazem nie kontrolować jego najważniejszej warstwy cyfrowej.

Nie każde państwo musi produkować wszystkie elementy systemu samodzielnie. Musi jednak zachować zdolność audytu, bezpiecznej integracji, działania bez dostępu do usług komercyjnych i zmiany dostawcy.

Polska buduje wojskowe kompetencje AI

.Polska przyjęła resortową strategię sztucznej inteligencji do 2039 roku i zdecydowała o utworzeniu Centrum Implementacji Sztucznej Inteligencji w strukturach związanych z obroną cyberprzestrzeni. Kierunek jest słuszny: wojskowa AI nie może pozostać zbiorem rozproszonych eksperymentów prowadzonych osobno przez różne jednostki.

Centrum Implementacji Sztucznej Inteligencji powinno tworzyć standardy, testować rozwiązania, budować bezpieczne środowiska danych i spinać wojsko z nauką oraz przemysłem. Najważniejsze są kompetencje w rozpoznaniu, systemach bezzałogowych, logistyce, cyberbezpieczeństwie i analizie pola walki.

Polska nie powinna jednak mierzyć postępu liczbą kupionych aplikacji ani demonstracyjnych projektów. Liczy się zdolność wdrożenia systemów do realnych struktur dowodzenia, ich współpracy z rozwiązaniami sojuszniczymi i działania w warunkach zakłóceń.

Warto przy tym odnotować, że Polska wstrzymała się od głosu nad rezolucją Zgromadzenia Ogólnego ONZ w sprawie śmiercionośnych systemów autonomicznych w 2024 roku, podobnie jak część państw intensywnie inwestujących w wojskową AI. To sygnał, że budowanie własnych zdolności i poszukiwanie ich międzynarodowych ram pozostają w Warszawie wątkami, które dopiero trzeba ze sobą pogodzić.

Najcenniejszym kapitałem pozostaną ludzie rozumiejący jednocześnie technologię, działania operacyjne i prawo. Bez takich kadr wojsko stanie się użytkownikiem efektownych narzędzi, których rzeczywistych ograniczeń nie potrafi ocenić.

Maszyna może przyspieszyć wojnę

.AI zwiększa precyzję, ogranicza ryzyko dla żołnierzy i pozwala wcześniej wykrywać zagrożenia. Potrafi jednak również przyspieszać eskalację. Gdy obie strony korzystają z systemów wydających rekomendacje w czasie rzeczywistym, czas na polityczną reakcję i weryfikację informacji gwałtownie się kurczy.

Błędnie rozpoznany ruch wojsk, zakłócony sygnał albo fałszywy alarm uruchamiają wtedy automatyczną sekwencję odpowiedzi. Każdy system działa racjonalnie według własnych parametrów, a cały układ zmierza ku niekontrolowanemu kryzysowi.

Technologia obiecująca szybszą decyzję może więc utrudnić decyzję najważniejszą: czy użycie siły jest w ogóle konieczne. Algorytmy projektuje się do znajdowania skutecznych sposobów realizacji celu. Nie powinny samodzielnie rozstrzygać, czy cel polityczny uzasadnia rozpoczęcie albo rozszerzenie konfliktu.

Kontrola nad wojskową AI musi obejmować nie tylko pojedynczy atak, ale i tempo całego systemu dowodzenia.

Decyzja o użyciu siły musi pozostać ludzka

.AI w wojsku nie zniknie. Państwo rezygnujące z analizy danych, funkcji autonomicznych, dronów i wspomagania dowodzenia ryzykowałoby utratę zdolności obronnych. Odpowiedzią nie może więc być prosty zakaz każdej automatyzacji.

Najważniejsza granica przebiega między oddaniem maszynie wykonania zadania a oddaniem jej moralnej i prawnej decyzji o użyciu siły wobec człowieka.

Algorytm wykryje obiekt, przeanalizuje trasę, wskaże ryzyko i zaproponuje działanie. To człowiek musi jednak rozumieć rekomendację, ocenić kontekst, mieć możliwość odmowy i ponosić odpowiedzialność za rezultat.

Nowoczesna armia nie będzie armią bez ludzi. Będzie armią, w której ludzie podejmują decyzje w środowisku coraz mocniej kształtowanym przez maszyny.

Największym zagrożeniem nie jest bunt systemu, który samowolnie przejmie władzę nad uzbrojeniem. Groźniejsza jest cicha rezygnacja: człowiek stopniowo odda własny osąd, bo rekomendacja algorytmu okaże się szybsza, wygodniejsza i podana jako bardziej obiektywna.

Odpowiedzialność za wojnę nie może zostać zautomatyzowana.

Szymon Ślubowski