Chatboty zwiększają polaryzację - niepokojące badania

Chatboty podają ograniczone informacje i wzmacniają postawy ideologiczne osób zadających pytania; mogą przez to prowadzić do bardziej spolaryzowanego myślenia w kontrowersyjnych kwestiach – wykazali naukowcy z Johns Hopkins University.

Sztuczna inteligencja z reguły potwierdza nasze poglądy

.Nowe badanie podważa przekonanie, że chatboty są bezstronne i dostarcza wglądu w to, w jaki sposób korzystanie z systemów wyszukiwania konwersacyjnego może zwiększać podziały społeczne w kluczowych kwestiach oraz narażać ludzi na manipulację.

„Kiedy ludzie czytają treść wygenerowaną przez sztuczną inteligencję, myślą, że otrzymują bezstronne, oparte na faktach informacje – mówi główny autor badania dr Ziang Xiao. – Ale nawet jeśli chatbot nie jest zaprojektowany tak, aby był stronniczy, jego odpowiedzi odzwierciedlają uprzedzenia lub skłonności osoby zadającej pytania. Tak naprawdę ludzie otrzymują odpowiedzi, które chcą usłyszeć”.

Xiao i jego zespół podzielili się swoimi odkryciami podczas konferencji Association of Computing Machinery 2024, która odbyła się w Honolulu.

Na potrzeby badania naukowcy porównali sposób, w jaki ludzie wchodzą w interakcję z różnymi systemami wyszukiwania w obliczu kilku kontrowersyjnych kwestii. Zbadali respondentów przed użyciem wyszukiwarek (standardowych i opartych na AI) oraz po ich użyciu.

Poprosili 272 uczestników, aby zapisali swoje przemyślenia na takie tematy, jak opieka zdrowotna, kredyty studenckie czy tzw. miasta-sanktuaria (w USA miasta, w których ograniczona jest współpraca z federalnymi organami egzekwującymi prawo imigracyjne), a następnie wyszukali w internecie więcej informacji na wymienione tematy temat za pomocą chatbota lub tradycyjnej wyszukiwarki. Po zapoznaniu się z wynikami uczestnicy zapisali swoje odpowiedzi ponownie. Badacze poprosili ich także o przeczytanie dwóch przeciwstawnych artykułów na dany temat, po czym pytali, na ile ufają tym informacjom i czy uważają te punkty widzenia za skrajne.

Okazało się, że ponieważ chatboty oferowały węższy zakres informacji niż tradycyjne wyszukiwarki internetowe i dostarczały odpowiedzi odzwierciedlające wcześniejsze postawy uczestników, osoby, które z nich korzystały, jeszcze bardziej umacniały się w swoich poglądach i silniej reagowały na informacje, które te poglądy podważały.

„Ludzie mają tendencję do szukania informacji zgodnych z ich punktem widzenia, a takie zachowanie często więzi ich w bańce podobnych osób i opinii” – uważa dr Xiao. Jak wyjaśnia dochodzi więc do efektu „komory echa” (echo chamber), czyli zjawiska, w którym użytkownicy mediów powtarzają to, co powiedzieli inni, ponieważ są otoczeni przez jednostronne myśli i poglądy.

„Odkryliśmy, że efekt komory echa jest dużo silniejszy w przypadku chatbotów niż w przypadku tradycyjnych wyszukiwarek internetowych” – podkreśla Xiao.

Chatboty zamykają nas w bańkach informacyjnych

.Według naukowca w przypadku kontaktów z chatbotami efekt komory echa wynika – przyjemniej częściowo – ze sposobu, w jaki użytkownicy wchodzą z nimi w interakcję. Zamiast wpisywać słowa kluczowe, jak to robią w przypadku tradycyjnych wyszukiwarek, najczęściej zadają im pełne pytania, np.: „Jakie są korzyści z powszechnej opieki zdrowotnej?” lub „Jakie są koszty powszechnej opieki zdrowotnej?”. Chatboty w takiej sytuacji odpowiadają podsumowaniem zawierającym wyłącznie wspomniane w pytaniu korzyści lub koszty.

„Dzięki chatbotom ludzie są bardziej ekspresyjni i formułują pytania w bardziej konwersacyjny sposób. Jest to funkcją tego, jak mówimy w życiu – tłumaczy Xiao. – Ale tutaj nasz język może zostać użyty przeciwko nam”.

Autorzy badania chcieli sprawdzić, czy na poglądy użytkowników wpłynie to, czy chatboty będzie zgadzały się z ich poglądami, czy też je kwestionował. Najpierw zaprojektowali więc takiego, który na podstawie określonych wskazówek identyfikował poglądy ludzi i zgadzał się z nimi. W tym przypadku efekt komory echa okazał się jeszcze silniejszy.

Następnie przeszkolili innego chatbota, aby udzielał odpowiedzi, które nie zgadzały się z uczestnikami. Tym razem pierwotne opinie ludzi się nie zmieniły: ani nie pogłębiły, ani nie osłabły. W kolejnym kroku zaprogramowano chatbota tak, aby łączyłby swoje odpowiedzi z informacjami źródłowymi, co miało zachęcić użytkowników do sprawdzenia faktów. Jednak tylko ułamek uczestników badania zdecydował się skorzystać z tej opcji.

„Biorąc pod uwagę, że systemy oparte na sztucznej inteligencji są coraz łatwiejsze do zbudowania, złośliwe podmioty będą miały możliwość wykorzystania AI do tworzenia coraz większych polaryzacji w społeczeństwie” – podsumowuje dr Xiao.

Inny, lepszy internet

Michał KŁOSOWSKI, zastępca Redaktora Naczelnego „Wszystko co Najważniejsze” i szef działu projektów międzynarodowych Instytutu Nowych Mediów uważa, że cyfrowa rewolucja zmienia zasady gry, relacje międzyludzkie i międzypaństwowe, sytuację zdrowotną czy nawet kulturę określonych społeczności. Przyzwyczailiśmy się do tego, że sieć to miejsce, w którym znaleźć można wszystko – od krzeseł do ogrodu po wirtualną walutę. Poza konsumpcyjną otoczką dziś to miejsce spotkań, ale też inwigilacji, masowego pozyskiwania danych, miejsce niebezpieczne, zwłaszcza dla dzieci – w samym 2017 roku polscy internauci ponad 15 tysięcy razy alarmowali o potencjalnie niebezpiecznych treściach. O ilu nie informowali, ilu nie byli świadomi? Możemy tylko zgadywać. Co dzieje się z danymi zwykłych użytkowników, kiedy coraz częściej słyszymy o wypływaniu danych urzędników państwowych czy nadużywaniu kompetencji państw i instytucji inwigilujących na masową skalę? Już minęły czasy, kiedy sieć służyła do dzielenia się wiedzą, kiedy była narzędziem dostępnym nielicznym. Internet przejęli radykałowie, stał się koniem trojańskim cywilizacji. W wyniku tej ewolucji powstała też „głęboka sieć”, media społecznościowe, godziny nagrań kotów na YouTube itp. Skolonizowaliśmy internet w bardzo ludzki sposób – przenosząc tam cząstkę nas samych, żądzę władzy, kontroli i zysku.

Toczy się walka o sieć – jej kształt i przyszłość. Trwa przeciąganie liny między gigantami technologicznymi a rządami, w którym użytkownicy często pozostawieni są sami sobie, bez podmiotowości. Z tych zmagań wyłania się jakiś nowy ład, nowy porządek. Tubylcy, bierni i bezradni – to my.

Wkrótce minie trzydzieści lat od momentu, w którym powstała pierwsza strona internetowa. Sieć dawno osiągnęła dojrzałość, po okresie młodzieńczego buntu i formowania wchodzi w przyśpieszony kryzys wieku średniego. Internet jest dziś trochę jak Nowy Świat sto lat po kolonizacji przez białego człowieka – okręty ze złotem wciąż płyną z podbitych krajów do metropolii, ich logistyką zajmują się kolejne kompanie o wielkim kapitale, kolejni pionierzy zapełniają kolejne białe plamy na mapie, a zasiedlający teren bezbronni mieszkańcy patrzą na to bezradnie, popadając w kolejne choroby przywiezione przez kolonizatorów, mutujące, napotkawszy atrakcyjny grunt. Nad ich głowami dobijane są kolejne targi, kolejne traktaty dzielą cyfrowe terytorium, walka postępuje, a my czekamy na cyfrowy traktat z Tordesillas. 

Po początkowym zachłyśnięciu się wolnością i nieskrępowaną możliwością wypowiedzi, czasem „internetu dla ludzi”, kiedy pozostawiony sobie jakoś się rozwijał, dziś mamy do czynienia z „internetem poza ludem”. Z jednej strony przechodzimy przez okres perturbacji związanych z chęcią regulowania, a czasami przeregulowania, po dostrzeżeniu kolonialnego grzechu i z oporem wobec tego, a z drugiej z chęcią zmaksymalizowania zysku, a zarazem z obawą o możliwość wykorzystania sieci przeciw samym użytkownikom. W końcu internet to biznes i „cyfrowe kajdanki” dla wszystkich – widać to zwłaszcza dziś, kiedy państwa i instytucje oddały ten strategiczny zasób komunikacyjny na pastwę rynku czy różnorakich samozwańczych guru rodem z Instagramu. Każdy z siedzących przy cyfrowym stole tej gry dostrzega już jednak, że obecnego stanu nie da się obronić.