Algorytmy YouTube nie rekomendują treści z prawicy

Algorytmy YouTube rekomendują oglądającym mniej ekstremistycznych treści – dowodzi szwajcarsko-amerykański zespół naukowców. Wyniki badania zostały opublikowane w PNAS.

Algorytmy YouTube – jak działają?

.Naukowcy ze Swiss Federal Institute of Technology w Lozannie i Uniwersytetu Pensylwanii użyli dwóch typów botów, aby odtworzyć sposób, w jaki ludzie wchodzą w interakcję na platformie społecznościowej YouTube. Manoel Horta Ribeiro, jeden ze współautorów badania przyznał w rozmowie z „New Scientist”, że od dawna próbował znaleźć odpowiedź na pytanie, jaki mechanizm mógłby powstrzymać algorytmy YouTube przed sugerowaniem kolejnych rekomendacji treści ekstremistycznych w pasku bocznym ciągle widocznym dla użytkownika.

Zanim badacze przystąpili do eksperymentu, wytrenowali dwa boty (każdy z własnym kontem YouTube) dając im do oglądania tę samą sekwencję filmów, aby upewnić się, że mają takie same preferencje wobec algorytmu YouTube.

Następnie bot kontrolny śledził system rekomendacji filmów dla prawdziwych użytkowników YouTube, a bot „alternatywny” zupełnie go ignorował. Dodatkowo, bot „alternatywny” został przeszkolony pod kątem przestrzegania określonych zasad mających na celu oddzielenie zachowania użytkownika od wpływu algorytmu.

Przeprowadzone badania

.W badaniu wzięło udział 88 tys. użytkowników YouTube. Okazało się, że poleganie wyłącznie na systemie rekomendacyjnym skutkuje wyświetlaniem mniej radykalnych treści.

W drugim eksperymencie naukowcy sprawdzili, po jakim czasie z listy rekomendowanych treści znikną filmy o profilu skrajnie prawicowym.

„Algorytmy rekomendacji były krytykowane za to, że polecają problematyczne treści użytkownikom długo po tym, jak stracili nimi zainteresowanie” – powiedział portalowi Techxplore – Homa Hosseinmardi z Wydziału Computer and Information Science Uniwersytetu Pensylwanii, pierwszy autor artykułu w PNAS.

Podczas gdy boty kontrolne podczas całego eksperymentu kontynuowały oglądanie skrajnie prawicowej treści, boty alternatywne „przełączały” użytkownika z jednego zestawu preferencji (oglądanie filmów skrajnie prawicowych) na inne (oglądanie filmów umiarkowanie stronniczych).

W miarę jak alternatywne boty zmieniały swoje preferencje dotyczące treści, badacze śledzili stronniczość polecanych filmów na pasku bocznym i stronie głównej. „Średnio po obejrzeniu około 30 filmów, zawartość polecanych treści na pasku bocznym zmieniała się w stronę umiarkowanego profilu” – powiedział Hosseinmardi. I dodał, że rekomendacje na stronie głównej dostosowywały się wolniej do nowego profilu. „Wyświetlane rekomendacje na stronie głównej bardziej odpowiadały preferencjom użytkownika, a rekomendacje na pasku bocznym były bardziej powiązane z charakterem aktualnie oglądanego filmu” – zauważył Hosseinmardi.

Mniej prawicowych treści

.Naukowcy mają nadzieję, że ich narzędzie będzie można wykorzystać do badania interakcji między preferencjami użytkowników, a sztuczną inteligencją wykorzystywaną do tworzenia platform społecznościowych.

Jak zauważa „New Scientist”, najnowsze ustalenia opublikowane w PNAS są przeciwieństwem wyników badań przeprowadzonych przed 2019 r., z których wynikało, że YouTube sugerował treści ekstremistyczne częściej niż Gab, portal społecznościowy popularny wśród alt-prawicy. Sugeruje to, że zmiana algorytmów wprowadzona w 2019 r. faktycznie działa.

„W tym roku YouTube wprowadził ponad 30 odrębnych zmian w swoim systemie rekomendacji. Dziś firma twierdzi, że system ten uczy się na podstawie ponad 80 miliardów różnych parametrów, a jego ‘współczynnik wyświetleń naruszających zasady’ (VVR) – określający jaki procent wyświetleń na całej platformie pochodzi z filmów naruszających jego własne zasady – wynosi około 0,1 procent. YouTube twierdzi, że jego VVR spadł od czasu rozpoczęcia śledzenia tego wskaźnika w 2017 r., ale nie powiedział, z jakiego poziomu spadł” – pisze „New Scientist”.

Artykuł opublikowany w PNAS „w przekonujący sposób podważa poważne i dobrze udokumentowane zarzuty stawiane przez ostatnie sześć lat, jakoby algorytmy YouTube rozpowszechniały lub udostępniały treści ekstremalne i skrajnie prawicowe” – powiedział w rozmowie z „New Scientist” Guy Healy z Free University of Brussels (VUB) w Belgii. Zaznaczył też, że bardzo istotny jest ciągły audyt platform społecznościowych i badanie interakcji użytkowników.

Na uwagę zasługuje też fakt, że aż 96 proc. czasu spędzonego w internecie ludzie poświęcają na wszystko, tylko nie konsumowanie informacji. W grudniu 2023 r. prof. Magdalena Wojcieszak z Uniwersytetu Kalifornijskiego mówiła w rozmowie, że częściej niż informacji społeczno-politycznych, ludzie szukają informacji o wyniku meczu, prognozie pogody, czy jak ugotować konkretną potrawę.

Smartfony, technologia i edukacja

.Na temat wszechobecności telefonów komórkowych, które towarzyszą znacznej części populacji każdego dnia i o każdej porze, pisze we „Wszystko co Najważniejsze” Jarosław KORDZIŃSKI, specjalista w zakresie zarządzania oświatą, organizacji procesu edukacyjnego i psychologii pozytywnej. Zwraca uwagę zarówno na korzyści, jak i zagrożenia płynące z obecności na dużą skalę telefonów i innych urządzeń cyfrowych w procesie edukacji.

„Telefony, smartfony i wszelkiego rodzaju urządzenia cyfrowe dla współczesnych uczniów stanowią naturalne środowisko ich życia, w tym nauki. Nie zmienia to faktu, że ich niewłaściwe zastosowanie może być dla nich jednocześnie sporym zagrożeniem” – twierdzi Jarosław KORDZIŃSKI.

Jak podkreśla, „w efekcie, zwracając uwagę na problemy z koncentracją na lekcjach, uzależnienie od internetu czy negatywny wpływ używania telefonów przez uczniów na relacje społeczne, korzystanie z telefonów komórkowych jest zakazane między innymi w szkołach francuskich, włoskich, greckich, portugalskich czy chińskich. W Polsce decyzję o możliwościach korzystania z telefonów podejmują rady pedagogiczne. Bywa że wprowadzają absolutny zakaz ich używania na terenie szkoły. Bywa, że zakaz dotyczy tylko lekcji. Dość powszechnym obrazkiem w wielu klasach są skrzyneczki, do których uczniowie składają telefony na początku zajęć, albo wyznaczone miejsca, gdzie można korzystać ze swoich urządzeń podczas przerwy. Prawda jest taka, że obok możliwości korzystania z samego telefonu ważniejszy jest dostęp do sieci, z czym w szkołach nie zawsze jest najlepiej, co niekiedy utrudnia możliwość zastosowania aplikacji wybranych do użycia w ramach danego tematu, ale też ogranicza to, co dla znacznej części uczniów jest kluczowe, a mianowicie gry, oglądanie filmików czy przebywanie na portalach społecznościowych”.

„Spoglądając na omawiany problem z nieco innej perspektywy, zgodzimy się zapewne, że liczbę wypadków drogowych ograniczają zapewne przepisy oraz konsekwentna egzekucja restrykcyjnych kar. Z drugiej strony bezpieczeństwo na drogach kształtuje też kultura jazdy. Mniej wypadków obserwujemy tam, gdzie ludzie są wobec siebie uważni, nie starają się za wszelką cenę zdominować innych uczestników ruchu drogowego, a kiedy nawet pojawi się jakiś nieogarnięty „wojownik”, to wolą mu raczej ustąpić, niż się z nim bez potrzeby ścigać. To samo dzieje się w świecie użytkowników rozwiązań cyfrowych” – przekonuje Jarosław KORDZIŃSKI.

Dodaje on, że „zakazy, zwłaszcza w przypadku dzieci i młodzieży, bardzo często budzą chęć ich łamania. Nakazy działają, kiedy rozumiemy powód i korzyści z ich stosowania. Kultura użytkowania czegokolwiek bierze się z powszechności i powtarzalności przydatnych dla każdego norm i efektów postępowania. Trochę za to, jak wykorzystują smartfony nasze dzieci, odpowiadają też ich dorośli opiekunowie. Bywa, że chętniej zastępujemy swoje zainteresowanie własnym dzieckiem zgodą na to, by ono zajmowało się swoim smartfonem. W szkołach telefony bywają też nadużywane przez nauczycieli, którzy nierzadko używają ich do wysyłania SMS-ów czy przerzucania w „wolnych chwilach” stron z zakupami czy zdjęciami umieszczanymi przez znajomych na portalach społecznościowych. O tym, że rozwiązania cyfrowe służą do zabawy czy wręcz marnotrawienia czasu, decydują ci, którzy w ten sposób je wykorzystują”.

„Świat, również przestrzeń zastosowania rozwiązań cyfrowych jest konsekwencją celów, jakie przed nimi stawiamy. Nauczmy się wykorzystywać nasze telefony rzeczywiście po coś – praktyka ich używania stanie się równie użyteczna jak stosowanie sztućców czy codzienna toaleta. Po prostu” – postuluje Jarosław KORDZIŃSKI.