Konstytucja sztucznej inteligencji podpisana

Prezydent USA Donald Trump wraz z szefami największych amerykańskich firm technologicznych podpisał dobrowolne porozumienie dotyczące bezpieczeństwa najbardziej zaawansowanych systemów sztucznej inteligencji. Trump określił dokument jako „coś w rodzaju konstytucji”. Jednocześnie administracja USA zdecydowała, że w oficjalnej terminologii federalnej zamiast określenia „artificial intelligence” ma być używana nazwa „Super Intelligence”.

Donald Trump pojawił się niespodziewanie przed dziennikarzami po wtorkowym spotkaniu w Białym Domu, w którym uczestniczyli przewodniczący Izby Reprezentantów Mike Johnson oraz liderzy najważniejszych przedsiębiorstw zajmujących się rozwojem sztucznej inteligencji. Wśród nich znaleźli się m.in. Elon Musk, szef Nvidii Jensen Huang, Mark Zuckerberg z Meta oraz Dario Amodei z Anthropic. Prezydent USA poinformował, że uczestnicy spotkania podpisali dokument, który określił mianem „czegoś w rodzaju konstytucji”. Formalnie porozumienie zostało przedstawione jako White House Accord on Super Intelligence – deklaracja zasad dotyczących odpowiedzialności firm rozwijających najbardziej zaawansowane modele.

Porozumienie nie jest klasyczną regulacją państwową. Jego podstawą pozostają dobrowolne zobowiązania przedsiębiorstw i założenie, że branża technologiczna będzie w dużej mierze kontrolowała samą siebie. Trump mówił o porozumieniu jako „moralnie wiążącym”, a przedstawiciele administracji opisywali je jako wspólne zobowiązanie do stosowania silnych mechanizmów bezpieczeństwa.

Cztery poziomy kontroli systemów AI

.Firmy mają wprowadzić cztery poziomy nadzoru nad rozwijanymi technologiami. Pierwszy obejmuje wewnętrzne mechanizmy pozwalające kontrolować zachowanie modeli i sprawdzać, czy działają zgodnie z założeniami. Dotyczy to między innymi zapobiegania sytuacjom, w których systemy mogłyby samodzielnie uzyskiwać nieautoryzowany dostęp do zewnętrznych systemów informatycznych.

Drugim elementem ma być tworzenie wyspecjalizowanych zespołów wewnątrz przedsiębiorstw, których zadaniem będzie testowanie skuteczności zabezpieczeń, wykrywanie nieprawidłowości oraz ich usuwanie. Trzeci poziom przewiduje udział niezależnych audytorów zewnętrznych. Ich zadaniem ma być ocena sposobu budowania i testowania najbardziej zaawansowanych modeli. Czwarty element to niezależny nadzór na poziomie władz spółek. Komitety związane z zarządami przedsiębiorstw mają otrzymywać raporty dotyczące bezpieczeństwa i sprawdzać, czy cały system kontroli rzeczywiście działa.

Taką konstrukcję porozumienia potwierdzają relacje ze spotkania: firmy zobowiązały się do wewnętrznego monitoringu, odrębnych mechanizmów kontroli, zewnętrznych audytów oraz nadzoru na poziomie zarządów. Reuters Przedsiębiorstwa mają również regularnie spotykać się, by uzgadniać dobre praktyki i rozwijać wspólne standardy. Sygnatariusze dopuszczają przy tym możliwość, że część przyjętych dziś dobrowolnie zasad mogłaby w przyszłości zostać zapisana w prawie.

Mark Zuckerberg: chodzi o zaufanie

.Mark Zuckerberg przekonywał po spotkaniu, że jednym z podstawowych celów nowego porozumienia jest zwiększenie zaufania społecznego do rozwijanych technologii. Według szefa Meta przyjęte zasady mają dać ludziom pewność, że najbardziej zaawansowane systemy działają w sposób zgodny z zamierzeniami ich twórców. Zuckerberg określił samo spotkanie mianem historycznego, zaznaczając jednocześnie, że podpisane porozumienie jest dopiero początkiem procesu.

Dario Amodei z Anthropic podkreślał natomiast, że wraz z szybkim rozwojem sztucznej inteligencji pojawiają się rzeczywiste zagrożenia. Jego zdaniem konieczne jest dalsze rozwijanie mechanizmów pozwalających kontrolować najbardziej zaawansowane systemy. Jensen Huang z Nvidii zwracał uwagę, że rozwój technologii i zwiększanie poziomu bezpieczeństwa nie muszą pozostawać ze sobą w sprzeczności. — Nie ma konfliktu między innowacyjnością, technologią i bezpieczeństwem — mówił Huang, podkreślając, że wraz z powstawaniem nowych możliwości AI rozwijane są również technologie służące jej zabezpieczaniu. MarketScreener Canada

Elon Musk: korzyści mogą przeważyć nad kosztami

.Obawy związane z rozwojem nowych systemów studził również Elon Musk. Szef xAI i SpaceX przyznał, że postęp technologiczny może zasadniczo zmienić rynek pracy. Jego zdaniem możliwe korzyści – między innymi w medycynie – mogą jednak przewyższyć związane z tym koszty. Musk ocenił, że najbardziej prawdopodobny scenariusz rozwoju technologii jest bardzo korzystny i może prowadzić do przyszłości, której społeczeństwa chciałyby doświadczyć. Podpisane w Białym Domu porozumienie opiera się więc przede wszystkim na modelu samoregulacji przemysłu, a nie na stworzeniu nowego federalnego systemu kontroli.

Trump powiedział dziennikarzom, że jeśli coś pójdzie nie tak, poinformuje o tym opinię publiczną. Jednocześnie podkreślał, że odpowiedzialność za bieżący nadzór ma spoczywać przede wszystkim na przedsiębiorstwach. — Oni będą sami się nadzorowali — powiedział prezydent. Reuters i AP również opisują zawarte porozumienie jako dobrowolny system samokontroli, uzupełniony o wewnętrzne i zewnętrzne audyty.

Od AI do „Super Intelligence”

.Drugą decyzją ogłoszoną przez Donalda Trumpa była zmiana terminologii stosowanej przez amerykańską administrację federalną. Prezydent podpisał rozporządzenie nakazujące organom administracji posługiwanie się w oficjalnej komunikacji terminami „Super Intelligence” oraz „SI” zamiast dotychczasowych „Artificial Intelligence” i „AI”. Zmiana dotyczy oficjalnych dokumentów, komunikacji publicznej i materiałów tworzonych przez władzę wykonawczą; nie oznacza natomiast zmiany naukowej definicji samej technologii. The Verge

Trump wcześniej zapowiadał podobną zmianę podczas swojego wystąpienia na 81. sesji Zgromadzenia Ogólnego ONZ. Argumentował wówczas, że słowo „artificial” może sugerować coś sztucznego w znaczeniu fałszywego, podczas gdy możliwości rozwijanych systemów są – w jego ocenie – rzeczywiste. We wtorek stwierdził, że zmiana nazwy została dokonana „oficjalnie”, a nowa terminologia spodobała się uczestnikom spotkania w Białym Domu.

Google, Meta, OpenAI, Anthropic, xAI i Nvidia

.Porozumienie podpisali Donald Trump oraz przedstawiciele sześciu najważniejszych przedsiębiorstw związanych z rozwojem zaawansowanych systemów: Google, Meta, OpenAI, Anthropic, xAI i Nvidia. New York Post Spotkanie w Białym Domu pokazuje kierunek, który administracja Donalda Trumpa chce nadać amerykańskiej polityce wobec sztucznej inteligencji: szybki rozwój technologii ma być łączony z systemem zabezpieczeń, ale istotna część odpowiedzialności za ich tworzenie i egzekwowanie pozostaje po stronie samych przedsiębiorstw.

Podpisane porozumienie nie tworzy więc na tym etapie nowego, obowiązkowego reżimu regulacyjnego. Jest deklaracją wspólnych zasad oraz próbą stworzenia standardu bezpieczeństwa dla najbardziej zaawansowanych modeli. Jednocześnie zarówno przedstawiciele firm, jak i administracji dopuszczają możliwość dalszego rozwijania przyjętych zasad. To, czy dobrowolna „konstytucja” branży technologicznej pozostanie systemem samoregulacji, czy też jej elementy zostaną z czasem przekształcone w prawo, pozostaje jednym z najważniejszych pytań po wtorkowym spotkaniu.

Jarosław Kowalski / PAP