Aleksandra Sowa: "Mój szef robot"

TSF Jazz Radio

Mój szef robot

Aleksandra SOWA

Badacz nowych mediów. Z kryptologiem Hansem Dobbertinem w Horst Görtz Institute for Information Security prowadziła jedne z najważniejszych europejskich badań dotyczących kryptologii oraz bezpieczeństwa w dziedzinie technologii informatycznych. Autorka licznych publikacji fachowych. Zajmowała się także m.in. redakcją internetową w ramach „Wahlkampftour” w kampanii wyborczej Gerharda Schroedera.

Ryc.: Fabien Clairefond

zobacz inne teksty autora

„Der Vorstand hat unter eigener Verantwortung die Gesellschaft so zu leiten, ee es Wohl des Betriebes und seiner Gefolgschaft und der gemeine Nutzen von Volk und Reich es erfordern”.ni
(§ 70 Abs. 1
Aktiengesetz vom 1937)

„Der Vorstand hat unter eigener Verantwortung die Gesellschaft zu leiten”.
(§ 76 Abs. 1
Aktiengesetz vom 1966, letzte Änderung vom 2015)

„The corporation in a democratic society: in whose interest ought it and will it be run”.
(Friedrich von Hayek, 1969)


.Sztuczna inteligencja (Artificial Intelligence, AI) to nowy silny trend z Doliny Krzemowej. Niemiecka autorka i bizneswoman w dziedzinie sztucznej inteligencji, Yvonne Hofstetter, w swoim najnowszym bestsellerze Sie wissen alles zajmuje się właśnie tym, jak big data upodabnia ludzi do maszyn, a autor kryminałów kulinarnych, Martin Walker, wydał kilka tygodni temu nowy thriller, Germany 2064, w którym opisuje, jak to jest mieć robota policjanta za kolegę.

.Rosnąca popularność sztucznej inteligencji budzi jednak nie tylko entuzjazm. Robotyzacja i digitalizacja mają sprawić, że w najbliższych latach wiele zawodów stanie się zbędnych — jak również zbędni staną się ludzie, którzy te zawody wykonują. Dotyczy to 59% wszystkich miejsc pracy w Niemczech (w USA jest to „tylko” 47%), jak obliczyli ekonomiści banku IngDiba. Tyle że w przeciwieństwie do rewolucji przemysłowej nie tylko pracownicy linii produkcyjnych są zagrożeni stratą miejsc pracy. Piszą o tym Constanze Kurz i Frank Rieger w Arbeitsfrei.

Automatyzacja dopadnie wkrótce profesje, które do tej pory uważane były za nietykalne: lekarzy (można ich zastąpić algorytmami diagnostycznymi), prawników (programy piszące i wysyłające monity), dziennikarzy (inteligentne programy narracyjne), konsultantów czy managerów.

Niemiecki tygodnik Stern udostępnił aplikację, w której można sprawdzić, z jakim prawdopodobieństwem twój zawód padnie ofiarą automatyzacji.

.Wyjątkowo atrakcyjnie wypada wizja cybermanagementu (automatycznego zarządzania), a konkretnie: zautomatyzowanych managerów. Już dziś istnieją inteligentne programy, których zadaniem jest pisanie korporacyjnych sprawozdań rocznych na takim poziomie jakości, który rzadko udaje się osiągnąć człowiekowi. Wynika to z tego, że na sprawozdania roczne, półroczne czy kwartalne składają się odgórnie ustalone treści oraz wskaźniki ekonomiczne wygenerowane przez oprogramowanie działające w firmie, a także dane dotyczące najważniejszych wskaźników branżowych lub ogólnorynkowych oraz standardowe fragmenty tekstu. To wszystko umożliwia automatyczne tworzenie sprawozdań na podstawie gotowych wzorów.

Maszyna jest również zdecydowanie lepsza od człowieka w zarządzaniu „portfelem” firmy, czyli w wykonywaniu jednego z głównych zadań, które w nowoczesnych, kontrolowanych przez akcjonariuszy przedsiębiorstwach należy do dyrektorów i zarządu.

.Cybernetyczny manager może nie tylko dopilnować, aby pod koniec roku kasa przedsiębiorstwa nie była pusta, ale również na podstawie serii złożonych zewnętrznych i wewnętrznych, długo- i krótkoterminowych czynników ekonomicznych, technicznych i politycznych podejmować optymalne dla firmy decyzje.

Modeli nie trzeba długo szukać. Stafford Beer, jeden z pionierów cybernetyzacji w Ameryce, zaproponował już w latach 60. tzw. „homeostatyczne przedsiębiorstwo”, którego działanie wyjaśnił na przykładzie regulowania działalności dużej huty. Stanisław Lem tak streszcza koncepcje Beera w Summa technologiae: „»Mózg« jej ma optymalizować wszystkie procesy składające się na wytwarzanie stali, w taki sposób, żeby proceder ten był jak najbardziej wydajny, sprawny i uniezależniony zarówno od zakłóceń podaży (siły roboczej, rudy, węgla itp.) i popytu rynkowego, jak i od wewnętrznych niedomagań systemowych (nierównomierność produkcji, niepożądany wzrost kosztów własnych, maksymalna wydajność na jednego pracownika)”[1].

W przekonaniu Beera taka jednostka produkcyjna stanowiłaby „ultrastabilny homeostat”, który na każde odchylenie od stanu równowagi reagowałby wewnętrzną reorganizacją, tak aby przywrócić stan optymalny.

.Sztuczna inteligencja („mózg”), która kontroluje czynności homeostatu, działa podobnie jak żywy organizm w naturze. Jego działania nie są moralnie ani dobre, ani złe. Natura jest jak głodny drapieżca. Naturze brak „systemów oceny moralnej”, konstatował Lem. Dlatego, jeśli chodzi o kwestie moralne, dotyczące np. przejęcia konkurencyjnej firmy, zwolnienia pracownika czy obniżenia pensji, Beer proponuje „ludzką” radę nadzorczą, która podejmowałaby „decyzje najwyższego rzędu”, o charakterze ogólnym. Sztuczna inteligencja podejmowałaby je bowiem tylko w optymalny sposób[2].

W skrajnych przypadkach zarząd mógłby zacząć natarczywie wpływać na decyzje cybernetycznego mózgu, naruszając tym samym zasadę samoregulacji homeostatycznego przedsiębiorstwa. Wtedy sztuczna inteligencja najprawdopodobniej rozpozna „przeszkodę” i poszukując kreatywnych rozwiązań i sposobów, będzie się uczyć, jak „obejść” ludzkiego kontrolera. W swojej autonomii:„[…] homeostaty zaczynają wpływać na losy ludzkie w sposób bardzo często nieprzewidziany przez ich twórców, i może dojść do załamania gospodarki kraju jako całości dlatego, ponieważ jeden z homeostatów sprawia się z wyznaczonym mu zadaniem zbyt dobrze — rujnując wszystkich konkurentów…”[3]

Takie niepożądane konsekwencje pracy samodzielnego „mózgu” mogą być zneutralizowane wyższym poziomem sztucznej inteligencji, jak twierdzi ojciec cybernetyki, Norbert Wiener. Może to być „maszyna do rządzenia” („zarządca ekonomiczny”) wyższego typu, służąca już nie do sterowania ludźmi, ale podległymi „mózgami” poszczególnych przedsiębiorstw.

Sztuczna inteligencja mogłaby np. dzięki stosownemu oprogramowaniu zalecić podległym „mózgom” przestrzeganie przepisów prawa pracy lub lojalnych zasad konkurencji, likwidację bezrobocia i w ten sposób — dla dobra publicznego — zapobiegać kryzysom gospodarczym.

I oto np. najnowsza sprawa manipulacji testami Volkswagena. Gdyby „mózg” korporacji zarządził takową manipulację w celu optymalizacji zysków swojego homeostatu (przedsiębiorstwa), „władca ekonomiczny”, czyli sztuczna inteligencja sprawująca nadzór nad podrzędnymi „mózgami” i kierująca się dobrem publicznym (ochrona środowiska dla przyszłych pokoleń ludzi, utrzymanie poziomu czystości powietrza itd.), skorygowałby prawdopodobnie decyzje „mózgu” i wprowadziłby stan równowagi. Gdyby natomiast kierował się koniecznością utrzymania dobrobytu i maksymalizacji dochodu narodowego brutto (który zależy m.in. od eksportu) jako najwyższym priorytetem, jego decyzja mogłaby być inna. Różnica między stanem obecnym a tym przypuszczalnym (z udziałem sztucznej inteligencji) jest taka, że w tym drugim przypadku byłoby jasne, kto podjął (co podjęło) dane decyzje, kiedy, dlaczego i kto (lub co) ponosi za nie odpowiedzialność.

.Na początku taka cybernetyczna „maszyna do rządzenia”, nawet wyposażona już w całą wiedzę o wszystkich kapitalistycznych gospodarkach, musiałaby przy każdym nowym wahaniu koniunktury czy kryzysie szukać nowych rozwiązań i uczyć się na własnych błędach, by wyprowadzić gospodarkę z kryzysu.

„Być może najpierw wprowadzi państwo w szereg przeraźliwych kryzysów, z których je stopniowo wyprowadzi. Być może oświadczy, że między wprowadzonymi w Program Działania aksjomatami zachodzi sprzeczność (na przykład: nie można równocześnie przeprowadzać ekonomicznie opłacalnej automatyzacji procesów produkcyjnych i dążyć do likwidacji bezrobocia, jeżeli zarazem nie będzie się robiło wielu innych rzeczy — na przykład, wprowadzało subwencjonowanego przez Państwo lub Kapitał przekwalifikowania tracących wskutek automatyzacji pracę itp.)”[4].

Z biegiem czasu AI będzie mogła zbliżyć się do stanu idealnego i ewentualnie opracować nowe twórcze strategie, aby przywrócić równowagę homeostatu. „Ponieważ jako regulator winna optymalizować stosunki ekonomiczne, stan wysokiej stopy życiowej ogółu jest stanem jej własnej równowagi. Przyrost naturalny zagraża tej równowadze” — to jeden z przykładów podawanych przez Lema. AI będzie szukać sposobów, aby zahamować przyrost populacji. Może np. dodać do wody pitnej środek regulujący liczbę urodzeń. Może ten sam środek dodać do środków kosmetycznych, np. pasty do zębów, i w ten sposób lepiej ukryć jego działanie przed kontrolującą go „radą nadzorczą”. Może również stwierdzić, że aby utrzymać równowagę społeczno-gospodarczą, będzie niezbędne upaństwowienie środków produkcji lub zmniejszenie o połowę zysków z każdego przedsiębiorstwa.

„Ponieważ ludzie pragną decydować o tym, w jakim ustroju będą żyli, jak i o tym, jaki model ekonomiczny będą realizowali, a wreszcie i o tym, jakie cele ma realizować społeczeństwo, bo wszak to samo społeczeństwo może r a c z e j rozwijać eksplorację kosmiczną, albo r a c z e j zajmować się biologiczną autoewolucją, ze względu na to wszystko stosowanie regulacji maszynowej układów społecznych, będąc możliwym, jest niepożądane”[5].

.Trzeba wziąć pod uwagę, że Stanisław Lem napisał te słowa pięćdziesiąt lat temu (Summa technologiae ukazała się po raz pierwszy w 1964 roku). W międzyczasie upadł komunizm, minęło wiele kryzysów gospodarczych, skandali i bankructw korporacyjnych, podczas których zarządy nie zwracały zbytnio uwagi na aspekty etyczne i moralne, jeśli chodzi o zwolnienia, bezrobocie, cięcia płac czy wyciąganie ręki po środki publiczne. Poprzez dobrowolne zobowiązania, takie jak Corporate Responsibility czy Corporate Citizenship, próbowano w ostatnich latach (głównie w krajach anglosaskich) reanimować etyczne przedsiębiorstwo, a jeszcze w 2004 roku André Comte-Sponville roztrząsał w swojej książce generalne pytanie (będące jej tytułem): Czy kapitalizm jest moralny?

Ślepą uliczką robotyzacji było dotychczas oczekiwanie, że maszyny będą bardziej etyczne niż ludzie. Ale to akurat nie jest dziś dla maszyn, które zastąpią managerów w biznesie i zarządzaniu czy polityków, poważną przeszkodą.

Decyzje obiektywnej i nieprzekupnej maszyny będą prawdopodobnie cieszyć się większą akceptacją niż decyzje jej ludzkiego odpowiednika.

Dzięki temu możliwe stanie się przełamanie krok po kroku oporu opinii publicznej wobec cyfryzacji oraz przekonanie społeczeństwa do zalet szerokiego zastosowania sztucznej inteligencji na pośrednich poziomach pracy produkcyjnej, usług czy rolnictwa. Sztuczna inteligencja nie tylko przejęłaby uciążliwe czynności albo wyeliminowałaby wyzysk. W duchu Isaaca Asimova cybernetyczni managerowie mogliby pomóc w pokonaniu uprzedzeń wobec robotyzacji. Automatyzacja zarządów czy rad nadzorczych oprócz faktycznych oszczędności na uposażeniach i bonusach, których nie trzeba płacić cybernetycznemu „mózgowi”, służyłaby również wyższemu celowi. „Dobro większości jest ważniejsze od dobra jednostki”, podsumowałby Spock[6].

Aleksandra Sowa
[1] S. Lem, Summa technologiae, Suhrkamp Taschenbuch, 1981, s. 171.[2] Tamże, s. 173. [3] Tamże, s. 173. [4] Tamże, s. 176. [5] Tamże, s. 184. [6] Słowa Spocka w filmie „Star Trek II”.

Pierwszy raz na Wszystko Co Najważniejsze?

Aby nie ominąć istotnych tekstów, raz w tygodniu w niedzielę rano wysyłamy newsletter. Zapraszamy do zapisania się:

Magazyn idei "Wszystko Co Najważniejsze" oczekuje na Państwa w EMPIKach w całym kraju, w Księgarni Polskiej w Paryżu na Saint-Germain, naprawdę dobrych księgarniach w Polsce i ośrodkach polonijnych, a także w miejscach najważniejszych debat, dyskusji, kongresów i miejscach wykuwania idei.

Aktualne oraz wcześniejsze wydania dostępne są także wysyłkowo.

zamawiam