O relacji człowiek-maszyna. Prace Brukseli, luddyści i efekt gotowanej żaby

Ewa FABIAN

Warszawska adwokat, entuzjastka nowych technologii, alumna Politechniki Warszawskiej, międzynarodowych kancelarii prawniczych i Instytutu Arbitrażowego SCC w Sztokholmie.

zobacz inne teksty autora

Nikt nie nadąża z definiowaniem pojęć, a tymczasem brak nam przemyśleń nad moralnością w relacji człowiek-maszyna – pisze Ewa FABIAN

.Pierwszy poważny tekst, jaki napisałam dotyczył tzw. norm prawa miękkiego. Pisałam o normach prawa kupieckiego, wytwarzanych w drodze zgodnej praktyki uczestników obrotu handlowego, a nie w drodze ustawy.

O co chodzi? Ludzie wykonują określone zadania (np. handlują), potem obserwują, co się dzieje w wyniku podejmowanych decyzji, a z tej obserwacji rodzą się określone zasady postępowania (podstawy prawa umów, formy rozstrzygania sporów, kody dla określonych zestawów zasad, przyspieszające komunikację). Takich zbiorów norm jest jednak więcej i dotyczą wielu ważnych dziedzin życia. Do tej pory miałam do czynienia na przykład z kodeksami pochodzącymi od organizacji, w których pracowałam (przedsiębiorstw) i od grup zawodowych (adwokaci, radcy prawni). Ostatnio pochyliłam się bliżej nad normami etyki badawczej, czyli zasadami etycznymi wiążącymi naukowców.

Jakie zasady etyczne wiążą naukowców?

Dla prawnika ciekawe jest oczywiście, jaka jest moc takich przepisów – jakie są ich źródła, jakie procedury ustalenia, że zasada została naruszona. Jakie są sankcje za złamanie zasad, jakie sposoby zmiany lub wprowadzenia takich zasad. Niektóre zasady obowiązują w związku z przynależnością do grupy (np. adwokaci), a inne na zasadzie swobodnego wyboru spośród dostępnych sposobów wyrażenia zasad uniwersalnych (jak etyka badawcza). Kodeks etyczny jest formą zwięzłego ujęcia zasad, które wyznajemy. Zwięzłego, aby o żadnej zasadzie nie zapomnieć wykonując skomplikowaną pracę czy projekt. Kodeks porządkuje i dlatego jest pomocny. W etyce nie powinno chodzić o ograniczanie człowieka, ale o umożliwienie mu robienia rzeczy wielkich z większym poczuciem bezpieczeństwa. Obawa przed zrobieniem czegoś niemoralnego z pewnością ogranicza, świadomie lub nieświadomie. Brzmi to wszystko trochę górnolotnie, ale nie warto myśleć inaczej.

Niedawno o etyce mówi się coraz więcej z kontekście robotów i sztucznej inteligencji. Zapotrzebowanie na zasady etyczne w tym kontekście pojawiło się w tym roku na forum Parlamentu Europejskiego. Komisja prawna Parlamentu Europejskiego (JURI) zwróciła uwagę m.in. na to, że pomiędzy robotami i ludźmi mogą powstawać więzi emocjonalne. Chodzi w tym przypadku głównie o osoby bardziej narażone na takie zjawisko – dzieci, osoby starsze, osoby niepełnosprawne. Kwestiom etycznym Komisja prawna poświęciła naprawdę dużo uwagi, wskazując trzy istotne obszary: społeczny, medyczny i bioetyczny. Etyka miałaby dotyczyć wszystkich etapów rozwoju robotyki, począwszy od projektowania, aż po możliwości związane z modyfikowaniem robotów już po wprowadzeniu ich na rynek.

O uczuciach między ludźmi i robotami

Przyznam, że ciekawie czyta się, jak Komisja Parlamentu Europejskiego zwraca uwagę na powstawanie więzi emocjonalnej pomiędzy ludźmi i robotami. Użycie słowa „roboty” w tych wszystkich materiałach rodzi problemy, bo nikt nie rozumie, co ono znaczy. Czy roboty oznaczają wszystkie programy i aplikacje, z których korzystamy powiększając swoje możliwości jako ludzie? Czy roboty to dopiero przedmioty materialne poruszające się w świecie, narażające człowieka na szkody w świecie materialnym? Jeśli Komisja prawna myślała wyłącznie o szkodach materialnych, to dlaczego zwracałaby uwagę na więzi emocjonalne człowiek-maszyna? Kim jest robot – przewagą technologii nad człowiekiem (w dowolnej formie) czy wyodrębnionym metalowym pudełkiem?

To oczywiście prowadzi do kolejnych pytań. Jeśli problemem etycznym mogą być relacje człowiek-maszyna, to co z relacjami już nawiązywanymi z wirtualnymi osobami w dobie mediów społecznościowych i niezwykle sugestywnych ruchomych obrazów (filmów, krótkich nagrań, reklam itd.)? Na ile autentyczne musi być przedstawienie osoby, aby jej obecność w świecie wirtualnym była etyczna? Na ile możliwa do weryfikacji powinna być prawdziwa postać i rzeczywista natura takiej osoby? A może prawem wirtualnych światów jest to, że osoba już nie musi być autentyczna? Może w świecie wirtualnym już nie ma „osoby”?

Luddyści. Roboty jak maszyny tkackie?

Z jednej strony nad takimi pytaniami głowią się filozofowie, humaniści. Z drugiej, naukowcy skupieni na poszerzaniu możliwości człowieka i dostępnych już maszyn, tworzą jeszcze lepsze technologie (programy, aplikacje, roboty). Nikt nie nadąża z definiowaniem pojęć, a tymczasem brak nam przemyśleń nad moralnością w relacji człowiek-maszyna.

Chciałabym zachęcić do dyskutowania nad problemem relacji człowiek-maszyna i śledzenia rozwoju robotyki, ale nie tylko ze strachu przed zmianami na rynku pracy. W mojej ocenie nie chodzi wyłącznie o ekonomię – możliwość utraty miejsc pracy czy zniknięcia niektórych zawodów z powodu robotów, obok dyskusji o dochodzie minimalnym. Przede wszystkim o zadanie sobie pytania, ile wirtualności i robotyki jesteśmy w stanie zaakceptować w swoim życiu. Robot jest przecież intruzem (pojawił się, a wcześniej go nie było) i kwestią etyki będzie zdecydowanie, jak się z tym czujemy i co zrobimy. W tym kontekście przywoływana jest coraz częściej historia luddystów (ruchu społecznego, który zareagował na pojawienie się maszyn tkackich w XIX w.), jednak nie jestem pewna, czy jest ona kluczem do zrozumienia dzisiejszych problemów. Pojawienie się maszyn tkackich było związane z wynalazkiem i wprowadziło zmiany gwałtownie. Dlatego ludzki opór również był zdecydowany.

.Czy relacja człowiek-maszyna nie jest dziś aby wprowadzana stopniowo? Czy wprowadzanie zmian stopniowo – zwane w ekonomii efektem gotowanej żaby – może osłabić ewentualny opór ludzi?

Ewa Fabian

Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu tylko za zgodą wydawcy.

Chcę otrzymywać powiadomienia o najnowszych tekstach.

Autorzy wszyscy autorzy

A B C D E F G H I J K L M N O P R S T U W Y Z
Przejdź do paska narzędzi