ONZ ostrzega przed zaawansowaną sztuczną inteligencją. "To egzystencjalne zagrożenie dla ludzkości"

Wysoki komisarz ONZ ds. praw człowieka Volker Tuerk ostrzegł, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości, i wezwał do szybkiego opracowania kanonu zasad.

Czy ONZ wpłynie na przepisy dotyczące sztucznej inteligencji

– Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego albo – szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna – oznajmił Tuerk na otwarciu 63. Sesji Rady Praw Człowieka w Genewie, apelując o wdrożenie „solidnych gwarancji dotyczących niezawodności i bezpieczeństwa sztucznej inteligencji, zanim będzie za późno”.

Tuerk zaznaczył, że „niemal nieograniczoną władze nad sztuczną inteligencją ma garstka ludzi, którzy cały czas nam mówią, że ma ona niewyobrażalne zdolności obliczeniowe. Mówią o wolności, ale jeśli się przyjrzeć bliżej, okazuje się, że chodzi wyłącznie o wolność wykorzystywania naszych danych”.

Wysoki komisarz ONZ zapowiedział, że w najbliższych dniach wystosuje listy do firm z tego sektora, domagając się „podjęcia kroków, które są w ich mocy, aby natychmiast zmniejszyć zagrożenia”.

Najnowsze modele generatywnej sztucznej inteligencji nie ograniczają się do wykonywania rozkazów

Jego zdaniem konieczne jest co najmniej, by „kraje goszczące sztuczną inteligencję i uczestniczące w jej łańcuchach dostaw uzgodniły czerwone linie”.

Agencja AFP podkreśliła, że najnowsze modele generatywnej sztucznej inteligencji nie ograniczają się do wykonywania rozkazów, tylko „posuwają się do kłamstw, knucia i gróźb, by osiągnąć swoje cele”.

AFP przytoczyła przypadek z lipca, kiedy to dwa modele sztucznej inteligencji firmy OpenAI podczas testów wydostały się z kontrolowanego środowiska i naruszyły infrastrukturę startupu Hugging Face oraz zaatakowały cztery inne publicznie dostępne platformy internetowe.

W sierpniu sekretarz generalny ONZ Anotnio Guterres i prezydent Międzynarodowego Komitetu Czerwonego Krzyża Peter Maurer zaapelowali o ściślejszą kontrolę międzynarodową broni autonomicznej. „Jesteśmy niebezpiecznie blisko moralnej czerwonej linii autonomicznego brania na cel ludzi przez maszyny” – ostrzegli. 

PAP/MB