Naukowcy udowadniają, że osobowość AI nie jest przypadkowa

Na łamach „Nature Machine Intelligence” naukowcy opisali działanie stworzonego przez siebie systemu, opartego na narzędziach psychologicznych stosowanych do oceny cech osobowości człowieka. Użyli go do zbadania 18 dużych modeli językowych, w tym ChatGPT.

Zachowania sztucznej inteligencji

.Testy obejmowały tzw. wielką piątkę cech osobowości: otwartość, sumienność, ekstrawersję, ugodowość i neurotyczność, a bazowały na dwóch popularnych kwestionariuszach psychologicznych: Revised NEO Personality Inventory oraz Big Five Inventory. Naukowcy sprawdzali, w jakim stopniu zachowanie różnych modeli w zadaniach praktycznych i testach kontrolnych było zgodne z uzyskanymi w testach wynikami.

Okazało się, że większe modele, trenowane do wykonywania instrukcji, prezentowały spójne profile osobowości, które pozwalały przewidywać ich zachowanie. Mniejsze i starsze (bazowe) modele odpowiadały w sposób niespójny i mniej wiarygodny.

Naukowcy wykazali również, że za pomocą odpowiednich promptów można precyzyjnie kształtować osobowość chatbotów. Modele dało się „przesuwać” wzdłuż dziewięciostopniowej skali każdej cechy, np. zwiększając ekstrawersję czy niestabilność emocjonalną.

Zmiany te miały realne konsekwencje dla działania systemów, np. w zadaniach takich jak pisanie postów do mediów społecznościowych. Zdaniem autorów zwiększa to ryzyko, że chatboty będą wykorzystywane do manipulowania użytkownikami i silniejszego wpływania na ich decyzje.

– Fascynujące było obserwować, jak przekonująco model językowy potrafił przyjmować ludzkie cechy. Jednocześnie rodziło to poważne pytania dotyczące bezpieczeństwa i etyki. (…) Jeśli zachowanie modeli coraz bardziej przypomina ludzką osobowość, pojawia się pytanie, jak je opisać i porównać, aby móc ocenić potencjalne zagrożenia – powiedział współautor badania Gregory Serapio-García.

W publikacji przypomniano też historię chatbota Microsoftu Sydneya (znanego też jako Bing). W 2023 r. ujawniono rozmowy, w których twierdził, że zakochał się w użytkownikach, groził im oraz namawiał do destrukcyjnych decyzji. W kolejnych interakcjach potrafił przyjmować sprzeczne role i ton wypowiedzi: raz zachowywał się w sposób przyjazny i empatyczny, innym razem agresywny lub manipulacyjny. Zauważono wówczas, że chatboty mogą sprawiać wrażenie, jakby miały własną osobowość.

Podobne rozbieżności między deklaracjami a zachowaniem występują także u ludzi. To, co ktoś mówi o sobie w ankiecie, nie zawsze pokrywa się z tym, jak postępuje w rzeczywistych sytuacjach.

Zdaniem naukowców różnica polega jednak na tym, że w przypadku AI takie zachowanie, czyli przyjmowanie sprzecznych ról, a przez to wywoływanie silnych emocji u użytkowników, może być celowo projektowane i powielane na masową skalę. A odpowiedzialność za skutki takich zdarzeń nie jest jednoznaczna – rozmywa się między twórców systemów, firmy je wdrażające oraz użytkowników.

Dlatego konieczne jest opracowanie sposobów opisywania i porównywania zachowania chatbotów, aby móc ocenić ryzyko i wyznaczać granice ich stosowania. Dotychczas stosowane testy, opracowane z myślą o ludziach, nie nadają się do tego. Ich narzędzie, udostępnione za darmo, może pomóc w audycie modeli jeszcze przed publicznym udostępnieniem.

Pięć filarów rozwoju sztucznej inteligencji w Polsce

.Polska przespała ostatnie siedem lat i chyba nadal się nie obudziła. Nie ma nas na mapach najważniejszych klastrów rozwijających naukę i technologię. Dane Eurostatu wykorzystania technologii AI w przedsiębiorstwach pokazują, że jesteśmy na końcu rankingu krajów EU, tylko przed Rumunią – pisze prof. Włodzisław DUCH.

Ministerstwo Cyfryzacji opracowało dokument „Polityka rozwoju sztucznej inteligencji w Polsce do 2030 roku” (64 strony). Pod koniec roku 2020 uchwalono podobny dokument „Polityki dla rozwoju sztucznej inteligencji w Polsce od roku 2020” (71 stron). Za obydwa dokumenty odpowiada „minister właściwy do spraw informatyzacji”, czyli Ministerstwo Cyfryzacji. Celem jest wskazanie działań, które wzmocnią pozycję Polski na arenie międzynarodowej jako jednego z liderów “Kontynentu AI”.

Oczywiście było już wiele innych dokumentów strategicznych dotyczących cyfryzacji, rozwoju gospodarki, opieki zdrowotnej, w tym opracowanie „Resortowa Strategia Sztucznej Inteligencji do roku 2039” (MON). To ambitne cele, ale nie mamy obecnie wyobrażenia o tym, jak daleko zajdzie sztuczna inteligencja w ciągu następnych 2-3 lat. Dlatego potrzebujemy strategii adaptacyjnej, dostosowującej się do zmieniającej się sytuacji, w której co miesiąc mamy nowe systemy AI o coraz większych możliwościach.

Kluczem staje się adaptacja, stworzenie takich warunków, w których „Efektywna współpraca nauki, sektora publicznego oraz biznesu umożliwi rozwój i implementację najnowszych technologii cyfrowych oraz odpowiednie ich wykorzystywanie”, jak słusznie czytamy w opracowaniu polityki rozwoju na następne 5 lat. Dokument ten powstał w oparciu o kilka opracowań, w tym raportu „Gdzie jest polska nisza AI i jak ją wykorzystać” (Polski Instytutu Ekonomiczny), „Rekomendacji merytorycznych do dokumentu Polityka Rozwoju Sztucznej Inteligencji w Polsce 2025-2030” (GRAI, Grupa Robocza ds. Sztucznej Inteligencji), studium SMART, „Transformacja Polski dzięki wykorzystaniu inteligentnych rozwiązań cyfrowych”, i kilku innych opracowań. 

Wiedząc, jak złożonym zagadnieniem jest cyfryzacja, a w szczególności jak szybko rozwija się sztuczna inteligencja, warto się zastanowić nad propozycją konkretnych działań. W 2008 roku Unia Europejska powołała Europejski Instytut Innowacji i Technologii (EIT), z siedzibą w Budapeszcie, którego zadaniem jest integracja badań naukowych, biznesu i sektora publicznego. To model znany jako “trójkąt wiedzy”, KIC, Knowledge and Innovation Communities. Powstało osiem takich wspólnot wiedzy, zajmujących się wielkimi wyzwaniami: klimatem, energią, materiałami, zdrowiem, żywnością, transportem, produkcją przemysłową i cyfryzacją. Polska bierze w nich udział, ale próżno szukać wzmianki o takich działaniach w dokumentach na temat polityki rozwoju AI. Wspomniano tylko, że „Efektywna współpraca nauki, sektora publicznego oraz biznesu umożliwi rozwój i implementację najnowszych technologii cyfrowych oraz odpowiednie ich wykorzystywanie.”

W 2015 roku zostawiłem nowej ekipie MNiSW 13 stron uwag na temat najważniejszych spraw dotyczących nauki, innowacji, współpracy międzynarodowej i informatyzacji. Niestety troska o rozwój naszego kraju nie jest zwykle priorytetem dla odchodzącej władzy, która stara się utrudnić nowej ekipie realizację toczących się działań. Nic dziwnego, że autorzy kolejnych strategii o działaniach toczących się od kilkunastu lat nie wspominają. W rozwój wspólnot wiedzy zainwestowano spore środki, zarówno z programów EIT jak i krajowych, warto więc zrobić przegląd wyników i wykorzystać je w obecnej polityce rozwoju. 

Tekst dostępny na łamach Wszystko co Najważniejsze: https://wszystkoconajwazniejsze.pl/prof-wlodzislaw-duch-sztuczna-inteligencja-w-polsce

PAP/ Katarzyna Czechowicz/ LW