Brice ERBLAND: Roboty-zabójcy. Kim będą żołnierze jutra?

TSF Jazz Radio

Roboty-zabójcy. Kim będą żołnierze jutra?

Brice ERBLAND

Wojskowy, strateg, pisarz. Absolwent szkoły Saint-Cyr, pilot śmigłowca francuskich wojsk lądowych. Brał udział w interwencjach w Afryce, Afganistanie i Libii. Kawaler Legii Honorowej.

Pole bitwy nie ma charakteru prostej i unormowanej szachownicy i choć sztuczna inteligencja już od jakiegoś czasu okazuje się wydajniejsza od człowieka w tej najbardziej klasycznej z gier umysłowych, to nie jest jeszcze gotowa mierzyć się ze złożonością i zmiennością sytuacji w trakcie walki – pisze Brice ERBLAND

Pigmalion, mitologiczny król Cypru, żył w celibacie, gdyż tamtejsze kobiety nie spełniały jego oczekiwań. Brakowało im zalet, a ich postępowanie kłóciło się z jego wymagającą moralnością. Ponieważ był zapalonym rzeźbiarzem, postanowił wyrzeźbić swój ideał kobiety. Piękno posągu, a także niezwykła precyzja jego wykonania sprawiły, że Pigmalion zakochał się w swojej rzeźbie. Brakowało jej jednak duszy, a jej skóra i wargi były okrutnie zimne. Pigmalion zwrócił się więc do bogini Afrodyty, aby ta tchnęła życie w obiekt jego miłości. Bogini, poruszona prośbą króla, spełniła jego pragnienie i tak narodziła się Galatea. 

W jakimś sensie wojskowi inżynierowie automatyki i robotyki są współczesnymi Pigmalionami. Przez dziesięciolecia zajmowali się wyposażaniem żołnierzy w najnowocześniejsze technologie, te jednak stały się tak szybkie i tak precyzyjne, że ludziom brakuje już zdolności kognitywnych, by je obsługiwać… Pigmalionowe pragnienie wyrzeźbienia idealnego posągu jest jednak współczesnym inżynierom tak bliskie, że nie przestają oni dążyć do stworzenia idealnego żołnierza-robota, wojownika doskonałego i niezawodnego na polu bitwy. Niestety, problem, który istniał w starożytności, istnieje i dziś: nawet jeśli stan wiedzy i poziom umiejętności pozwalają obecnie na stworzenie wymarzonego posągu, to w dalszym ciągu nie da się w niego tchnąć ducha. Pewne obiecujące możliwości w tym zakresie niesie jednak ze sobą postęp informatyczny.

Amerykańska wojskowa agencja badawczo-rozwojowa DARPA prognozuje nawet, że wysoko rozwinięta sztuczna inteligencja, mogąca podejmować autonomiczne decyzje na polu bitwy, powstanie do 2030 roku. Autonomia intelektualna żołnierzy-robotów jest niczym Święty Graal, boską interwencją zdolną tchnąć świadomość w posągi tworzone przez piewców nowoczesnej sztuki wojennej.

Ale czym dokładnie jest autonomiczna technologia na polu walki? Czy jest to po prostu „inteligentny” program komputerowy, zarządzający rozmaitymi zautomatyzowanymi systemami, jak na przykład komputer HAL 9000 z filmu 2001: Odyseja kosmiczna, czy raczej jest to robot-zabójca przypominający człowieka, jak na przykład Terminator? W naszej ludzkiej zbiorowej wyobraźni łatwo przychodzi nam wiązać autonomiczną technologię z robotami i dlatego w sposób naturalny określamy tym mianem wszystkie maszyny, które poruszają się samodzielnie bądź wykonują zadania bez konieczności sterowania nimi za pomocą pilota. W swojej książce Wired for War Peter W. Singer proponuje definicję robota opartą na czterech kryteriach: robot jest dziełem człowieka; posiada sensory, którymi odbiera bodźce pochodzące z otoczenia; wyposażony jest w programy zdolne definiować odpowiedź na daną sytuację; posiada narzędzia umożliwiające mu realizację tej odpowiedzi.

Definicja ta, choć interesująca, wymaga doprecyzowania, gdyż według niej robotem byłby na przykład pocisk ziemia-powietrze. Został przecież wytworzony przez człowieka, posiada sensory podczerwieni, wyposażony jest w program określający trajektorię lotu i posiada ruchome stateczniki umożliwiające jej zmianę. Ale to jednak nie pocisk decyduje o odpaleniu ładunku, a jeszcze mniej o celu, w który ma trafić. Definicja robota musi być więc dużo dokładniejsza.

Human Rights Watch, organizacja pozarządowa sprzeciwiająca się rozwojowi technologii robotów-zabójców, definiuje robota utożsamianego z bronią jako maszynę zdolną dokonywać autonomicznego wyboru celu ataku. Autonomia technologiczna przejawia się na trzy różne sposoby: broń human-in-the-loop – robot wybiera cel ataku, ale to człowiek decyduje o odpaleniu ładunku; broń human-on-the-loop – robot wybiera cel i odpala ładunek, ale możliwa jest interwencja człowieka i anulowanie decyzji robota przed odpaleniem ładunku; i w końcu broń human-out of-the-loop – robot wybiera i klasyfikuje cele bez jakiejkolwiek ingerencji człowieka. Amerykański profesor Armin Krishnan określa te autonomie mianem, kolejno, zaprogramowanej, nadzorowanej i całkowitej, dodając czwarty typ, a mianowicie autonomię zdalnie sterowaną. Tak powstała klasyfikacja wszystkich istniejących typów broni w zależności od stopnia ich autonomii. Warto jednak pamiętać, że zgodnie z definicją słownikową autonomia to zdolność osoby bądź rzeczy do funkcjonowania niezależnie od innych osób bądź rzeczy. W tym sensie system zdalnie sterowany nie może być z definicji autonomiczny.

Technologia autonomiczna musi być jednak odróżniana od już istniejących zautomatyzowanych systemów uzbrojenia. Automatyzacja jest w istocie cechą systemów, które zaprogramowano tak, aby reagowały w określony sposób w danej sytuacji, na podstawie odbieranych bodźców z otoczenia. Systemy te zawsze będą więc reagowały w taki sam sposób na takie same bodźce, niezależnie od kontekstu. Autonomia natomiast implikuje zdolność systemów do podejmowania najlepszych decyzji w danym momencie, niezależnie od sytuacji. Dlatego w zakresie, jaki nas interesuje, powinniśmy mówić o autonomicznych systemach uzbrojenia. A ponieważ chodzi o technologie posiadające zdolność bojową, określa się je mianem autonomicznych śmiercionośnych systemów uzbrojenia.

Jean-Baptiste Jeangène Vilmer proponuje precyzyjną realistyczną definicję: „system autonomiczny to taki, który po aktywacji zdolny jest samemu, to znaczy bez ingerencji bądź nadzoru człowieka, wybrać cel ataku i moment jego rozpoczęcia, dostosowując się do zmieniającego się środowiska”.

Określenie „po aktywacji” oznacza, że autonomicznych śmiercionośnych systemów uzbrojenia nie można zaliczać do którejś z kategorii proponowanych przez Human Rights Watch. Jest to raczej system hybrydowy, w którym człowiek, w zależności od sytuacji, może być in/on/out-of-the-loop. I po drugie, mówiąc o zdolności do dostosowywania się do zmieniającego się środowiska, mamy na myśli fakt, że autonomia jest pochodną sztucznej inteligencji zdolnej uczyć się poprzez doświadczenie i dostosowywać się do nowej sytuacji. To jedno z największych wyzwań w aktualnych badaniach nad sztuczną inteligencją.

Pole bitwy nie ma charakteru prostej i unormowanej szachownicy i choć sztuczna inteligencja już od jakiegoś czasu okazuje się wydajniejsza od człowieka w tej najbardziej klasycznej z gier umysłowych, to nie jest jeszcze gotowa mierzyć się ze złożonością i zmiennością sytuacji w trakcie walki. Oprócz tradycyjnych przestrzeni konfliktu (ziemia, powietrze, morze) istnieją dziś nowe, to znaczy przestrzeń pozaatmosferyczna i cyberprzestrzeń. Autonomiczne systemy uzbrojenia mogą być więc tworzone w celu prowadzenia walki w jednym tylko wymiarze lub w wielu wymiarach naraz lub naprzemiennie, w tym zwłaszcza w cyberprzestrzeni.

Jak zatem w tym kontekście zdefiniować pole bitwy? Doktryna wojskowa nie definiuje go jako takiego, ale włącza je w definicję przestrzeni, w której operuje dana jednostka bojowa. Dosłownie pole bitwy to miejsce, gdzie toczą się działania wojenne. Gdyby wziąć pod uwagę zasięg nowoczesnych systemów, wkrótce okazałoby się, że według takiej definicji pole bitwy to niemal cała nasza planeta. Należy więc zawęzić tę definicję. Termin „teatr działań wojennych”, odpowiadający bardzo często granicom jakiegoś regionu bądź państw, jest również zbyt szeroki.

.Dopóki więc nowoczesne systemy uzbrojenia nie osiągną apogeum swojej autonomii, to znaczy dopóki nie będą w stanie naprawiać się w sposób autonomiczny, będą potrzebowały baz na obszarze objętym walką, nie mówiąc już o sztabie dowodzącym operacjami.

Proponuję więc, aby definiować pole bitwy jako „przestrzeń tymczasową i zmienną, w której przynajmniej jeden żołnierz bądź autonomiczny system uzbrojenia reprezentujący jedną ze stron konfliktu posiada bezpośredni optyczny kontakt z przynajmniej jednym żołnierzem nieprzyjaciela”. Definicja ta ma tę przewagę nad innymi, że bierze pod uwagę stopniowe zastępowanie żołnierza-człowieka przez systemy autonomiczne.

Brice Erbland
Fragment niepublikowanej w Polsce książki “Robots tueurs, que seront les soldats de demain”, Ed.Armand Colin. Przekład Andrzej Stańczyk/Wszystko Co Najważniejsze.

Pierwszy raz na Wszystko Co Najważniejsze?

Aby nie ominąć istotnych tekstów, raz w tygodniu w niedzielę rano wysyłamy newsletter. Zapraszamy do zapisania się:

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

Magazyn idei "Wszystko Co Najważniejsze" oczekuje na Państwa w EMPIKach w całym kraju, w Księgarni Polskiej w Paryżu na Saint-Germain, naprawdę dobrych księgarniach w Polsce i ośrodkach polonijnych, a także w miejscach najważniejszych debat, dyskusji, kongresów i miejscach wykuwania idei.

Aktualne oraz wcześniejsze wydania dostępne są także wysyłkowo.

zamawiam