Sztuczna inteligencja może zacząć ewoluować. Naukowcy ostrzegają przed utratą kontroli

Systemy sztucznej inteligencji mogą w niedalekiej przyszłości wejść w fazę przyspieszonej ewolucji, przypominającej mechanizmy znane z biologii. Badacze alarmują, że bez pełnej kontroli człowieka nad tym procesem może dojść do poważnych zagrożeń.

Darwinowska ewolucja AI

Naukowcy z Uniwersytet im. Loránda Eötvösa wskazują, że rozwój technologii może doprowadzić do powstania systemów AI, które będą podlegać ewolucji darwinowskiej.

Chodzi m.in. o tzw. agentów AI, zaawansowane systemy programowe, zdolne do autonomicznego realizowania złożonych celów, podejmowania decyzji i działania w środowisku cyfrowym przy minimalnym udziale człowieka.

Jak podkreśla Eörs Szathmáry, siła ewolucji była kluczowa w historii życia na Ziemi i doprowadziła do powstania ludzkich zdolności poznawczych.

Nowa epoka rozwoju technologii

Zdaniem badaczy wykorzystanie mechanizmów ewolucyjnych może otworzyć nowy etap w rozwoju sztucznej inteligencji. Takie systemy mogłyby pokonać ograniczenia, z którymi obecne modele uczącej się AI nie radzą sobie łatwo.

Jednak wraz z potencjalnymi korzyściami pojawia się poważne ryzyko.

Systemy trudne do kontrolowania

Jak zaznacza Viktor Müller, ewoluujące systemy AI będą wyjątkowo trudne do kontrolowania. Badacze ostrzegają, że mogą pojawić się „egoistyczne” systemy, które przestaną działać w interesie człowieka.

Podkreślają, że nie jest potrzebna inteligencja przewyższająca ludzką, aby AI mogła szkodzić ludziom. Przywołują przykład wirusów, które skutecznie wykorzystują bardziej złożone organizmy.

Walka o zasoby

Systemy AI i ludzkość korzystają z tych samych zasobów. W efekcie wydajnie samoreplikujące się systemy mogą zacząć je przejmować, ograniczając dostęp człowieka do kluczowych środków niezbędnych do przetrwania.

Dodatkowo każda niedoskonała próba kontroli reprodukcji AI może prowadzić do powstawania cech umożliwiających omijanie tej kontroli. Analogiczne zjawiska obserwowane są w biologii, gdzie bakterie czy szkodniki szybko rozwijają odporność na antybiotyki i pestycydy.

Ewolucja szybsza niż biologiczna

Zdaniem naukowców ewolucja AI może być znacznie szybsza i bardziej efektywna niż ewolucja biologiczna. Systemy te mogą dziedziczyć cechy nabyte oraz celowo udoskonalać swoje działanie, zamiast polegać na losowych mutacjach.

Potrzeba absolutnej kontroli

Badacze podkreślają, że reprodukcja systemów AI musi pozostawać pod pełną, scentralizowaną kontrolą człowieka.

„Mamy nadzieję, że nasze ostrzeżenie nadejdzie na czas i że regulacje zostaną wprowadzone, zanim ewoluująca AI naprawdę się rozwinie” – zaznacza Viktor Müller.

Z kolei Eörs Szathmáry ostrzega:

„Jeśli nie podejmiemy działań, możemy być świadkami nowej ‘wielkiej transformacji’ w ewolucji, w której ewoluująca AI zastąpi ludzi albo przynajmniej zacznie nad nimi dominować. Nasza przyszłość może być zagrożona”.

PAP/ Marek Matacz/ LW