AI pisze przyszłość ludzkości bez jej zgody
Sztuczna inteligencja rozwija się szybciej, niż nadążają rządy. Sekretarz generalny ONZ António Guterres wezwał do globalnych reguł, zanim, jak mówi, świat „odklika” przyszłość ludzkości bez planu i zgody.
.Na otwarciu pierwszego Globalnego Dialogu o Zarządzaniu Sztuczną Inteligencją w Genewie 6 lipca António Guterres postawił diagnozę bez dyplomatycznych ozdobników. „Na naszych własnych społeczeństwach prowadzony jest eksperyment, bez planu i bez zgody”, oświadczył, mówiąc o technologii rozwijającej się w „niekontrolowanym tempie”. Dwudniowe wydarzenie zgromadziło rządy, firmy technologiczne, naukowców i organizacje społeczne, a jego pytanie założycielskie Guterres ujął zwięźle: czy wspólnie ukształtujemy tę transformację, czy pozwolimy jej ukształtować nas.
Sedno ostrzeżenia dotyczy zmiany natury samej technologii. Systemy AI, mówił sekretarz generalny, przestały być narzędziami czekającymi na polecenie. Piszą kod, działają w sieci i podejmują decyzje z coraz mniejszym nadzorem człowieka. „Nasze instytucje zbudowano po to, by rządzić maszynami, które wykonują rozkazy. Nie są gotowe na maszyny, które decydują”, stwierdził. To zdanie jest istotą problemu. Prawo i państwo powstały dla świata, w którym maszyna robi to, co jej kazano, a nie to, co sama wybierze.
Nie da się odkliknąć prawdy
.Najcelniejszą figurą wystąpienia był termin zapożyczony z języka programistów. „Vibe-coding”, czyli mówienie maszynie, czego się chce, zamiast samodzielnego pisania kodu, potrafi zdziałać cuda, przyznał Guterres. Rzecz w tym, że tej samej postawy nie wolno przenieść na sprawy fundamentalne. „Nie możemy odkliknąć prawdy. Nie możemy odkliknąć przyszłości ludzkości”, powiedział, wskazując rosnącą pokusę, by zostawiać ważne zadania technologii i ślepo ufać wynikom. Państwa stają wobec wyboru, który ujął jako „rządzenie z rozmysłem albo dryf z rozpędu”.
Do tego dochodzi obawa o władzę. Guterres ostrzegł przed koncentracją siły w rękach garstki firm i garstki państw, podczas gdy większość krajów nie miała żadnego wpływu na decyzje, które ukształtują ich przyszłość. Przewodnicząca Zgromadzenia Ogólnego Annalena Baerbock dołożyła do tego twardą statystykę o ciemnej stronie technologii: według przywołanych przez nią danych 99% deepfake’ów ma charakter seksualny, a 96% wymierzonych jest w kobiety i dziewczęta.
Dziecko nie może być królikiem doświadczalnym
.Najmocniejszy moralnie fragment Guterres poświęcił dzieciom, sięgając po porównanie, którego trudno nie zapamiętać. „Nie dopuszczamy, by lek trafił do dziecka, zanim nie zostanie uznany za bezpieczny. Testujemy każdą zabawkę”, mówił. „A jednak AI dotarła do naszych dzieci, do ich nauki, przyjaźni i najbardziej prywatnych pytań, zanim ktokolwiek zapytał, co im zrobi”. Stąd jego wezwanie do przyjęcia Zobowiązania na rzecz Bezpieczeństwa Dzieci w AI, opartego na trzech prostych regułach: system dostępny dla dziecka musi być udowodniony jako bezpieczny, musi obowiązywać zero tolerancji dla materiałów przedstawiających seksualne wykorzystanie dzieci, a system, który wykryje u dziecka oznaki kryzysu, ma się zatrzymać i połączyć je z realnym, ludzkim wsparciem. „Żadne dziecko nie może być królikiem doświadczalnym dla nieuregulowanej AI”, podsumował.
Sekretarz generalny nie ograniczył się do ostrzeżeń. Zapowiedział, że będzie namawiał Zgromadzenie Ogólne do powołania Globalnego Funduszu na rzecz AI, mającego budować kompetencje, dane i przystępną moc obliczeniową wszędzie, tak by przepaść cyfrowa nie stwardniała w przepaść sztucznej inteligencji. Baerbock zapewniła, że fundusz na pewno powstanie, choć bez podania kwot, dodając, że w świecie miliardów i bilionów problemem nie są pieniądze, lecz to, by wydano je dla dobra wszystkich.
Ostatnie pokolenie, które ustala reguły
.Za swoją największą obawę Guterres uznał AI w zastosowaniach wojskowych, a zwłaszcza autonomiczne systemy śmiercionośnej broni. Odrzucił techniczny eufemizm i nazwał je wprost: „roboty zabójcy”. Maszyny, które wybierają cel i odbierają życie bez ludzkiej kontroli i osądu, są, jak stwierdził, „moralnie odrażające” i muszą zostać zakazane prawem międzynarodowym. To najostrzejsze słowa całego wystąpienia i zarazem najbardziej konkretny postulat.
Waga tego apelu bierze się jednak nie z jego treści, którą część środowisk formułowała już wcześniej, lecz z tego, kto i kiedy go wygłasza. Guterres nie ma władzy, by cokolwiek nakazać firmom ani mocarstwom, a genewskie spotkanie nie przyniosło wiążących decyzji, jedynie fundament pod kolejny dialog, zaplanowany na maj 2027 roku w Nowym Jorku. Jego siłą jest ostrzeżenie o zamykającym się oknie. „Możemy być ostatnim pokoleniem zdolnym ustalić warunki, na jakich ludzkość i maszyny będą współistnieć”, powiedział. „Drzwi wciąż są otwarte. Nie zostaną otwarte długo”. To zdanie warto potraktować poważnie niezależnie od tego, czy ONZ zdoła cokolwiek wyegzekwować. Bo pytanie, kto pisze przyszłość, człowiek czy maszyna działająca bez nadzoru, jest pytaniem, na które każda odpowiedź udzielona przez zaniechanie również jest odpowiedzią.
Szymon Ślubowski
