Jak działa przemysł cyfrowej nieśmiertelności

Przemysł cyfrowej nieśmiertelności jest wart miliardy dolarów. Firmy oferujące rozmowy z cyfrowymi kopiami zmarłych zarabiają na ludzkiej tęsknocie i wykorzystują ją do zatrzymywania klientów – powiedziała dr Katarzyna Nowaczyk-Basińska z Uniwersytetu Cambridge.

Reprezentacje zmarłych wykorzystywano już m.in. w kampaniach wyborczych w Indiach

Według przywołanego przez badaczkę raportu wartość globalnego rynku usług cyfrowego życia po śmierci (Digital Afterlife Industry) szacowana jest w 2026 r. na około 36 mld dolarów, a do 2030 r. może przekroczyć 60 mld dolarów.

– To już nie jest niszowa ciekawostka, lecz rozwijający się rynek – powiedziała dr Katarzyna Nowaczyk-Basińska, kulturoznawca, badacz w Leverhulme Centre for the Future of Intelligence na Uniwersytecie Cambridge i stypendystka programu AI2050 Schmidt Sciences.

Sztuczna inteligencja pozwala tworzyć cyfrowe reprezentacje zmarłych na podstawie pozostawionych przez nich zdjęć, nagrań głosu i wiadomości. Takie awatary mogą rozmawiać z bliskimi, odpowiadać na pytania, a nawet udzielać rad. Problem w tym, że za technologiami stoją przedsiębiorstwa, których interes nie zawsze musi być zgodny z potrzebami osób przeżywających żałobę.

– To firmy komercyjne, którym zależy na utrzymywaniu użytkowników w relacji z produktem. Im dłużej i częściej będziemy korzystać z usługi, tym korzystniejsze może to być dla przedsiębiorstwa – zauważyła badaczka.

Przywołała hipotetyczny przykład matki, która po śmierci dziecka zaczyna rozmawiać z jego cyfrową kopią. Po pewnym czasie kobieta czuje, że jest gotowa ograniczyć te kontakty i zamknąć kolejny etap żałoby. Nieodpowiedzialnie zaprojektowany algorytm mógłby jednak próbować ją zatrzymać.

– Awatar dziecka może powiedzieć: „Mamo, nie zostawiaj mnie. Nie chcę drugi raz umierać. Chcę być z tobą do końca życia” – zauważyła Nowaczyk-Basińska.

Podkreśliła, że nie są to słowa zmarłego dziecka, lecz wygenerowany przez technologię komunikat, który mógłby służyć podtrzymywaniu emocjonalnego przywiązania użytkownika do usługi.

Zdaniem ekspertki ryzyko uzależnienia i manipulacji należy do najpoważniejszych problemów związanych z cyfrową nieśmiertelnością. Osoba przeżywająca stratę może zacząć traktować awatara jak rzeczywistego członka rodziny, pytać go o ważne decyzje i coraz bardziej uzależniać od niego swoje życie.

– Musimy nieustannie pamiętać, że to nie nasz zmarły ojciec udziela nam rad, lecz jego wizja współtworzona przez sztuczną inteligencję – zaznaczyła.

Dodała, że systemy AI uczą się i zmieniają. Po kilku latach cyfrowa reprezentacja zmarłego może już tylko w niewielkim stopniu przypominać człowieka, na którego podobieństwo została stworzona.

Nie oznacza to jednak, że technologia musi być wyłącznie szkodliwa. Jak wyjaśniła badaczka, psycholodzy, z którymi rozmawiała podczas badań w Polsce, Indiach i Chinach, dostrzegali możliwość wykorzystania jej do pomocy osobom, które nie zdążyły pożegnać się z bliskimi lub mają poczucie niedokończonych spraw. Zastrzegali jednak, że potrzebne są odpowiednie zasady bezpieczeństwa.

Niektórzy specjaliści proponują nawet, aby kontakt z cyfrową reprezentacją zmarłego, szczególnie w okresie świeżej żałoby, odbywał się pod opieką psychologa, a same technologie traktowano jak wyroby medyczne.

Rozwój tego rynku wyprzedza również prawo. Nowaczyk-Basińska zwróciła uwagę, że RODO co do zasady nie chroni danych osób zmarłych, a brakuje kompleksowych regulacji określających, kto może zdecydować o stworzeniu czyjegoś pośmiertnego awatara. Jednak, jak zaznaczyła, trwają prace nad tym zagadnieniem i European Law Institute przedstawił niedawno propozycję zasad dotyczących dostępu do cyfrowej spuścizny i jej dziedziczenia.

Badaczka przyznała, że ludzie od wieków próbowali utrzymywać więź ze zmarłymi. Odwiedzali groby, przechowywali pamiątki, rozmawiali ze zdjęciami. Dotychczas była to jednak komunikacja jednostronna.

– Po raz pierwszy w historii oczekujemy, że zmarli będą nam odpowiadać, opowiadać dowcipy, uczestniczyć w przyjęciach urodzinowych, a nawet w życiu społecznym. Tak jakby śmierć wcale nie musiała oznaczać końca relacji – podkreśliła.

Przypomniała, że cyfrowe reprezentacje zmarłych wykorzystywano już m.in. w kampaniach wyborczych w Indiach, a w amerykańskiej Arizonie podczas postępowania sądowego zaprezentowano wygenerowane przez AI oświadczenie zamordowanej osoby.

PAP/MB