Czerwone linie sztucznej inteligencji
António GUTERRES
Sztuczna inteligencja rozwija się dziś z szybkością, za którą nie nadążają ani państwa, ani instytucje, ani nawet ci, którzy ją tworzą, a technologia zdolna przekształcać gospodarki, rynek pracy, wybory polityczne i równowagę bezpieczeństwa jest wdrażana szybciej, niż ktokolwiek potrafi ją skutecznie kontrolować – twierdzi António GUTERRES
.Na naszych społeczeństwach prowadzony jest eksperyment bez planu i bez zgody obywateli, co nie jest ani trwałe, ani możliwe do zaakceptowania, bo pytanie już nie dotyczy tego, czy sztuczna inteligencja zmieni świat, lecz tego, czy wspólnie nadamy tej zmianie kierunek, czy pozwolimy, by to ona ukształtowała nas, a nie my ją.
Po raz pierwszy wszystkie państwa zasiadają przy jednym stole, mając wspólną bazę wiedzy i ostrzeżeń, które płyną z pracy niezależnego międzynarodowego panelu naukowego, złożonego z czterdziestu ekspertów z różnych regionów, będących przedstawicielami różnych dyscyplin, działających nie w imieniu rządów, firm czy instytucji, lecz z własnej inicjatywy.
Pierwsze ostrzeżenie dotyczy szybkości zmian – internet potrzebował piętnastu lat, by dotrzeć do miliarda ludzi, podczas gdy sztuczna inteligencja osiągnęła ten próg w dwa lata, a systemy, które jeszcze niedawno były narzędziami oczekującymi na polecenia, dziś piszą kod, działają w sieci i podejmują decyzje przy coraz mniejszym nadzorze człowieka.
Drugie ostrzeżenie dotyczy władzy, ponieważ moc obliczeniowa, dane i talenty stojące za najbardziej zaawansowanymi systemami są skoncentrowane w rękach kilku firm i kilku państw, podczas gdy większość narodów, w tym wiele krajów rozwijających się, nie ma realnego wpływu na decyzje, które będą kształtowały ich przyszłość.
Trzecie ostrzeżenie dotyczy prawdy, ponieważ kłamstwo wzmocnione przez maszynę może być równie przekonujące, jak prawda, autentyczny dowód może zostać odrzucony jako fałszerstwo, a społeczeństwo, które nie potrafi ustalić, co jest realne, a co nie, traci zdolność obrony samego siebie.
Nie można pisać przyszłości ludzkości metodą „vibecodingu”, w której pozwalamy sztucznej inteligencji działać, nie patrzymy zbyt uważnie i uznajemy, że skoro coś działa, to wystarczy, bo o ile taka metoda może przynieść zdumiewające rezultaty w niektórych dziedzinach, o tyle nie da się w ten sposób kodować prawdy, bezpieczeństwa ani przyszłości człowieka.
Ostrzeżenia są realne, lecz realny jest także potencjał tej technologii, bo ta sama sztuczna inteligencja, o ile została zbudowana z jasnym celem i szeroko udostępniona, już dziś pomaga matce w wiejskiej klinice otrzymać szybką diagnozę, dziecku uczyć się dzięki nauczycielowi, który nigdy się nie męczy, a drobnemu rolnikowi korzystać z prognoz dostępnych dotąd największym przedsiębiorstwom. Przez większą część historii ludzkości wiedza była skoncentrowana w zbyt niewielu rękach, w zbyt niewielu miejscach i za zbyt wysoką cenę – penicylina potrzebowała dekad, by dotrzeć do wiosek, które najbardziej jej potrzebowały, elektryczność rozwijała się przez stulecie i nadal nie dotarła wszędzie, ale sztuczna inteligencja nie musi czekać tak długo.
.Jeśli zostanie dobrze użyta i sprawiedliwie udostępniona, może skrócić dekady rozwoju do kilku lat i stać się wielkim narzędziem wyrównywania szans XXI wieku, lecz żadna przyszłość nie buduje się sama, dlatego wybór nie polega na tym, czy wierzyć w sztuczną inteligencję, czy się jej bać, ale na tym, czy rządzić nią świadomie, czy pozwolić jej dryfować bez kontroli. Potrzebujemy czterech priorytetów: bezpieczeństwa, czerwonych linii, budowy zdolności oraz przejrzystości.
Bezpieczeństwo wymaga wspólnych standardów testowania systemów, mierzenia ryzyka i przypisywania odpowiedzialności, ponieważ tylko wtedy bezpieczeństwo będzie podążało za technologią, a nie zostanie zastąpione chaosem sprzecznych regulacji, które podniosą koszty, podzielą świat i nikogo nie ochronią. Szczególna odpowiedzialność dotyczy dzieci, bo nie dopuszczamy do użycia leków, zanim nie zostaną przebadane, testujemy zabawki, a sztuczna inteligencja dotarła już do dzieci, ich nauki, relacji i najbardziej prywatnych pytań, zanim ktokolwiek naprawdę zapytał, co może im zrobić.
Dlatego potrzebna jest deklaracja bezpieczeństwa dzieci wobec sztucznej inteligencji, oparta na trzech zasadach: system dostępny dla dziecka musi być wcześniej sprawdzony pod kątem jego bezpieczeństwa i objęty niezależnym nadzorem, nie może być żadnej tolerancji dla tworzenia seksualnych obrazów dzieci, a dziecko znajdujące się w kryzysie nie może zostać pozostawione samo z maszyną, lecz musi zostać połączone z realnym wsparciem człowieka. Czerwone linie oznaczają, że prawa człowieka nie podlegają negocjacjom, sztuczna inteligencja nie może odbierać godności ani utrwalać dyskryminacji, a w decyzjach wysokiego ryzyka – w wymiarze sprawiedliwości, ochronie zdrowia czy działaniach policji – maszyny mogą informować, lecz to człowiek musi decydować i ponosić odpowiedzialność.
Budowa zdolności oznacza, że nie wolno pozwolić, by przepaść cyfrowa zamieniła się w przepaść sztucznej inteligencji, a ta w lukę rozwojową, bezpieczeństwa i suwerenności, zwłaszcza że prywatne inwestycje w infrastrukturę AI zbliżyły się w ubiegłym roku do kwoty pół biliona dolarów, podczas gdy publiczne inwestycje w zdolności AI krajów rozwijających się pozostają przy tym niemal niezauważalne. Przejrzystość oznacza wreszcie uznanie, że choć sztuczna inteligencja może wydawać się niematerialna, jej ślad jest bardzo konkretny, ponieważ centra danych zużywają już więcej energii elektrycznej niż większość państw, a do 2030 roku mogą zużywać więcej prądu niż wszystkie kraje świata poza pięcioma i tyle wody, ile wystarczyłoby na potrzeby 1,3 miliarda ludzi w Afryce Subsaharyjskiej przez cały rok.
Globalny dialog dotyczy sztucznej inteligencji cywilnej, lecz sama technologia nie respektuje tego rozróżnienia, bo te same modele i układy scalone trafiają na pole bitwy, gdzie największe zagrożenie stanowią śmiercionośne autonomiczne systemy broni, czyli mówiąc wprost: roboty-zabójcy, wybierające cel i odbierające życie bez kontroli i osądu człowieka. To jest moralnie odrażające, politycznie nie do przyjęcia i powinno zostać zakazane przez prawo międzynarodowe, ponieważ niektóre decyzje muszą na zawsze pozostać ludzkie, a szczególnie decyzja o odebraniu komuś życia.
Nieprawdą jest, że zarządzanie technologią jest wrogiem innowacji, bo innowacja potrzebuje barier ochronnych, a technologie, którym ufamy najbardziej – w lotnictwie, medycynie czy energetyce jądrowej – zdobyły to zaufanie właśnie dlatego, że pociągnięto ich twórców do odpowiedzialności. Jeśli sztuczna inteligencja ma być potężna, musi być zarządzana; jeśli ma być godna zaufania, ci, którzy ją budują, muszą odpowiadać za jej skutki; jeśli ma być globalna, musi być sprawiedliwa; a jeśli ma służyć przyszłości, nie może tej przyszłości zużywać.
.Możemy być ostatnim pokoleniem zdolnym do określenia warunków współistnienia ludzkości i maszyn. Drzwi są jeszcze otwarte, ale nie pozostaną otwarte długo, dlatego moment, w którym 193 państwa wspólnie przez nie przechodzą, powinien zostać zapamiętany jako chwila, w której zarządzanie zaczęło doganiać technologię. Miara tego zadania jest prosta: należy zbudować przyszłość sztucznej inteligencji tworzonej przez ludzkość, z ludzkością i dla całej ludzkości.
