Chińskie nękanie dysydentów ujawnione dzięki ChatGPT

Chiński urzędnik, traktując ChatGPT jak służbowy dziennik, nieświadomie odsłonił zmasowane Chińskie nękanie dysydentów na całym świecie – wynika z raportu opublikowanego przez twórcę oprogramowania, firmę OpenAI. Skala działań obejmowała m.in. podszywanie się pod urzędników amerykańskich.

Raporty przesyłane do ChatGPT wspominały, że chińskie służby używały również lokalnych chińskich modeli AI, takich jak DeepSeek.

.Funkcjonariusz wykorzystywał narzędzie AI do redagowania raportów z „cyfrowych operacji specjalnych”, co pozwoliło badaczom z OpenAI na zidentyfikowanie całej siatki składającej się z setek operatorów i tysięcy fałszywych kont.

Z analizy historii czatów wynika, że operatorzy z Chin podszywali się pod amerykańskich urzędników imigracyjnych, by zastraszać aktywistów, a nawet preparowali nekrologi i zdjęcia nagrobków, by sfingować śmierć przeciwników władz. Ujawniono też szczegółowe plany kampanii dezinformacyjnej wymierzonej w obecną japońską premier Sanae Takaichi.

Raporty przesyłane do ChatGPT wspominały, że chińskie służby używały również lokalnych chińskich modeli AI, takich jak DeepSeek.

Jak wygląda zmasowane chińskie nękanie dysydentów?

.Tak wyglądają nowoczesne chińskie represje transnarodowe. Nie chodzi tylko o cyfrowy trolling, to działania na skalę przemysłową. Chodzi o próbę uderzenia w krytyków Komunistycznej Partii Chin wszystkim, wszędzie i naraz – ocenił Ben Nimmo, główny śledczy w OpenAI, cytowany przez CNN.

Incydent pokazuje, w jaki sposób autorytarne reżimy mogą wykorzystywać sztuczną inteligencję do wzmacniania cenzury i represji na arenie międzynarodowej.

Raport ujrzał światło dzienne w momencie zaostrzonej rywalizacji technologicznej USA z ChRL. Pekin od lat rozbudowuje aparat cenzury, jednak przypadek ten jest jednym z najbardziej jaskrawych przykładów wykorzystania zachodniej technologii przez autorytarne reżimy do tłumienia krytyki za granicą. Firma OpenAI zablokowała konto użytkownika, ale analitycy ostrzegają, że incydent ten to tylko fragment szerszej wojny informacyjnej, w której stawką jest kontrola nad narracją w dwóch największych gospodarkach świata.

Etyka w sztucznej inteligencji i działania UNESCO

.Etyka AI to obszar badań zajmujących się moralnymi, społecznymi i filozoficznymi konsekwencjami związanymi z rozwojem i wykorzystaniem systemów sztucznej inteligencji. Jest interdyscyplinarnym obszarem łączącym badania z zakresu filozofii, informatyki, prawa, socjologii i nauk politycznych, kluczowych dla zapewnienia, że rozwój technologii AI nie spowoduje niezamierzonych szkodliwych skutków – pisze prof. Michał KLEIBER

Niedawno otworzona w Instytucie Podstawowych Problemów Techniki PAN prestiżowa Katedra UNESCO dotycząca zarządzania etyką w sztucznej inteligencji kolejny raz wskazuje na niezwykle ważny problem ściśle związany z wykorzystywaniem AI.

Zacznijmy jednak od wyjaśnienia, co oznacza termin Katedra UNESCO. Odnosi się on do naukowych zespołów wyróżnionych w skomplikowanej procedurze selekcji przez jedną z głównych organizacji ONZ-u w ramach programu o nazwie UNITWIN/UNESCO Chairs. UNITWIN jest skrótem angielskiego wyrażenia University Twinning and Networking, oznaczającego partnerstwo uniwersyteckie i tworzenie sieci kontaktów, a Chairs to szefowie powoływanych katedr. Celem tego programu jest wspieranie badań, współpracy instytucji badawczych z różnych krajów oraz kształcenie w obszarach działalności UNESCO, czyli w edukacji, nauce, kulturze i w zrównoważonym rozwoju, a także wspieranie tych obszarów w społeczeństwach całego świata, ze szczególnym uwzględnieniem krajów słabszych gospodarczo.

Od Katedr UNESCO i Sieci UNITWIN, złożonej ze współpracujących ze sobą jednostek badawczych z różnych państw, oczekuje się prowadzenia innowacyjnych badań i tworzenia wiedzy potrzebnej do mierzenia się z aktualnymi, stojącymi przed nami wyzwaniami, w tym do realizacji Milenijnych Celów Rozwoju ONZ. Instytucje w tym programie współpracują z organizacjami pozarządowymi, fundacjami oraz organizacjami sektora publicznego i prywatnego, odgrywając w ten sposób ważną rolę w obszarze szkolnictwa wyższego i nauki poszczególnych państw.

Istotną rolę w działaniu tych instytucji mają Narodowe Komitety ds. UNESCO, promujące i ułatwiające realizowanie programów oraz wspomagające ocenę uzyskiwanych efektów. Program został zainicjowany przez UNESCO w 1992 r. i obejmuje badania w zakresie edukacji, nauk ścisłych, przyrodniczych, społecznych i humanistycznych oraz szeroko rozumianych obszarów kultury i komunikacji społecznej. W 120 krajach działa obecnie prawie tysiąc Katedr UNESCO i 45 Sieci UNITWIN, a liczba badaczy ściśle zaangażowanych w tę działalność wynosi kilkanaście tysięcy.

Ponieważ program ma charakter wielodyscyplinarny, jest jednym z najbardziej szerokich programów Organizacji. Jak dotąd projekty Katedry UNESCO i Sieci UNITWIN okazały się przydatne w ustanawianiu nowych programów nauczania, generowaniu innowacyjnych pomysłów oraz ułatwianiu wzbogacania istniejących programów edukacyjnych przy jednoczesnym poszanowaniu różnorodności kulturowej.

Znacznie ponad połowa instytucji zaangażowanych w tę działalność mieści się obecnie w Europie i Ameryce Północnej, ale promowanie znaczenia tej inicjatywy zmierza do zmiany tej sytuacji. Polska do niedawna nie była zbyt aktywna w staraniach o przyznanie naszym instytucjom statusu uczestnika programu, ale zmieniło się to na korzyść w ostatnich latach. Obecnie istnieje u nas 12 Katedr UNESCO o nazwach wskazujących na reprezentowaną przez nie tematykę:

• Trwałego Rozwoju – na Uniwersytecie Warszawskim,
  
• Kobiet, Społeczeństwa i Rozwoju – na Uniwersytecie Warszawskim,
  
• im. Janusza Korczaka Pedagogiki Społecznej – w Akademii Pedagogiki Społecznej w Warszawie,
  
• Dziedzictwa Kulturowego i Studiów Miejskich – na Uniwersytecie Ekonomicznym w Krakowie,
  
• Międzynarodowej Promocji Technologii i Edukacji – na AGH w Krakowie,
  
• Badań Instytucjonalnych i Szkolnictwa Wyższego – na Uniwersytecie im. Adama Mickiewicza w Poznaniu,
  
• Całożyciowego Poradnictwa – na Uniwersytecie Wrocławskim,
  
• Prawa i Ochrony Dóbr Kultury – na Uniwersytecie Opolskim,
  
• Ekohydrologii i Ekologii Stosowanej – na Uniwersytecie Łódzkim,
  
• Zrównoważonego Rozwoju Społecznego – na Uniwersytecie Szczecińskim,
  
• Procesów Publicznego i Globalnego Zarządzania Niematerialnym Dziedzictwem Kulturowym – na Uniwersytecie Warszawskim,
  
• Etycznego Zarządzania Sztuczną Inteligencją – w Instytucie Podstawowych Problemów PAN w Warszawie.

Dla całości obrazu funkcjonowania Katedr UNESCO w Polsce wymieńmy jeszcze cztery Katedry, które działały w naszym kraju w ubiegłych latach:

• Praw Człowieka i Pokoju – na Uniwersytecie Mikołaja Kopernika w Toruniu,
  
• Jakości Nauki i Nauczania w Szkolnictwie Wyższym – na Uniwersytecie Warmińsko-Mazurskim w Olsztynie,
  
• Badań nad Przekładem i Komunikacją Międzykulturową – na Uniwersytecie Jagiellońskim,
  
• Edukacji o Holokauście – na Uniwersytecie Jagiellońskim.

Zkolei Sieci UNITWIN/UNESCO mające swoich reprezentantów w Polsce to aktualnie:

• UNITWIN Network for Underwater Archaeology – Sieć Archeologii Podwodnej, Uniwersytet Warszawski, Uniwersytet Mikołaja Kopernika w Toruniu, 2012,
  
• UNITWIN Network on Life Designing Interventions (Counseling, Guidance, Education) for Decent Work and Sustainable Development – Sieć Projektowania Interwencji (Doradztwo, Poradnictwo, Edukacja) na rzecz Godnej Pracy i Zrównoważonego Rozwoju, Uniwersytet Wrocławski, 2017,
  
• UNITWIN Network on Culture in Emergencies – Sieć Kultury w Sytuacjach Nadzwyczajnych, Uniwersytet im. Adama Mickiewicza w Poznaniu, 2024.
  

Przejdźmy teraz do wskazanej na wstępie problematyki będącej tematem nowo otwartej Katedry, czyli do spraw wykorzystywania sztucznej inteligencji w kontekście konieczności przestrzegania zasad etycznych.

Przez etykę w AI rozumiemy zasady funkcjonowania AI zgodnego z powszechnymi ludzkimi wartościami i moralnością, czyli odbywającego się w sposób pod każdym względem korzystny dla społeczeństwa. Rozumiemy przez to rozwijanie, realizację wdrożeń i użytkowanie AI zgodne z wartościom i zasadami odwołującymi się do powszechnie akceptowanych standardów społecznego dobra i zła.

Innymi słowy, etyka AI to obszar badań zajmujących się moralnymi, społecznymi i filozoficznymi konsekwencjami związanymi z rozwojem i wykorzystaniem systemów sztucznej inteligencji. Jest interdyscyplinarnym obszarem łączącym badania z zakresu filozofii, informatyki, prawa, socjologii i nauk politycznych, kluczowych dla zapewnienia, że rozwój technologii AI nie spowoduje niezamierzonych szkodliwych skutków.

Tekst dostępny na łamach Wszystko co Najważniejsze: https://wszystkoconajwazniejsze.pl/prof-michal-kleiber-etyka-w-sztucznej-inteligencji-dzialania-unesco/

PAP/MB