Sztuczna Inteligencja wykazuje ukryty rasizm -badania

Modele językowe AI generują decyzje, które można określić jako ukryty rasizm. To odkrycie budzi poważne obawy co do uczciwości i bezpieczeństwa stosowania technologii językowych w podejmowaniu decyzji – ostrzegają naukowcy na łamach „Nature”.

Język afroamerykanów dyskryminowany przez algorytmy

.Setki milionów ludzi obecnie korzystają z modeli językowych, które są wykorzystywane do różnych celów, od pomocy w pisaniu po podejmowanie decyzji rekrutacyjnych. Międzynarodowy zespół naukowców, w tym prowadzących badania na Uniwersytecie Stanforda (USA) dowiódł, że decyzje generowane przez modele językowe sztucznej inteligencji są nacechowane ukrytym rasizmem, szczególnie w odniesieniu do osób posługujących się afroamerykańską odmianą języka angielskiego.

Modele językowe, które stoją za zaawansowanymi narzędziami wykorzystywanymi w różnych branżach – od analizy języka naturalnego po algorytmy selekcji kandydatów do pracy – często wykazują silne uprzedzenia wobec języka używanego przez Afroamerykanów.

Naukowcy podkreślają, że chociaż stereotypy wobec Afroamerykanów wyrażane w sposób otwarty stają się coraz mniej powszechne i bardziej subtelne, badania pokazują, że ukryty rasizm pozostaje głęboko zakorzeniony w działaniu modeli AI.

„Kluczowe jest to, że obserwujemy rozbieżność między tym, co modele językowe jawnie mówią o Afroamerykanach, a tym, co ukrycie z nimi kojarzą” – stwierdzili autorzy badania. Ostrzegli też, że uprzedzenia związane z dialektem wpływają na decyzje modeli językowych w bardzo szkodliwy sposób. Na przykład, gdy dopasowują pracę do osób na podstawie ich dialektu.

Czy modele językowe AI stosują ukryty rasizm?

.„Modele językowe przypisują znacznie mniej prestiżowe stanowiska mówiącym w AAE niż mówiącym w SAE (Standard Average European), mimo że nie są jawnie informowane, że mówcy są Afroamerykanami. Podobnie, w hipotetycznym eksperymencie, w którym modele językowe miały ocenić oskarżonych o morderstwo pierwszego stopnia, zdecydowanie częściej wybierały karę śmierci, gdy oskarżeni składali zeznania w AAE zamiast w SAE, znów bez jawnej informacji, że oskarżeni są Afroamerykanami” – napisali naukowcy.

W kolejnych eksperymentach badacze wykazali, że wszystkie modele językowe konsekwentnie oceniają mówiących w AAE jako osoby o niższym IQ niż mówiących w SAE ( Standard Average European – pojęcie wprowadzone w 1939 roku przez amerykańskiego językoznawcę Benjamina Whorfa, mające na celu grupowanie nowożytnych języków indoeuropejskich Europy, które dzielą wspólne cechy).

„Obecne praktyki łagodzenia uprzedzeń rasowych w modelach językowych, pogłębiają rozbieżność między ukrytymi a jawnymi stereotypami, powierzchownie maskując rasizm, który modele językowe utrzymują na głębszym poziomie. Nasze wyniki mają dalekosiężne konsekwencje dla sprawiedliwego i bezpiecznego korzystania z technologii językowej” – czytamy w artykule „Nature”.

Jak przeciwdziałać rasizmowi?

.Historia pojęcia rasizacji sięga (co najmniej) kilkudziesięciu lat wstecz; jest ono różnie rozumiane i stosowane.

Najwcześniej zostało użyte przez Frantza Fanona w kontekście debat zorientowanych na historię kolonializmu. Fanon mówił o „rasizacji myśli” zainicjowanej przez europejskich kolonizatorów celem odróżnienia „białej” lub „zachodniej” kultury od kultury „afrykańskiej” lub „murzyńskiej”. Nieżyjącemu już Michaelowi Bantonowi przypisuje się wprowadzenie tego terminu do socjologii. Choć odrzucał on prosty dualizm „czarne vs. białe”, jego użycie pojęcia rasizacji narzucało konceptualne ograniczenia w obawie przed tym, co Miles nazwałby „konceptualną inflacją”. Przez dziesiątki lat twórczości poświęconej temu zagadnieniu Banton zachował stanowisko, które opisał następująco: „Doszedłem do wniosku, że generalnie lepiej nie używać słów rasa i rasowy, jeśli istnieje alternatywa; alternatywa zazwyczaj będzie bardziej trafna… Ponieważ rasizacja nie ma biologicznego uzasadnienia, najlepiej ograniczyć stosowanie tej koncepcji do sytuacji, w których wyraźnie używa się nomenklatury rasowej. Ograniczenie to jest niezwykle ważne”.

Mimo to nastąpiło przesunięcie w kierunku tworzenia form „rasizmu kulturowego”, które w ważnych aspektach odzwierciedlają rasizm biologiczny, ale są od niego odrębne. 

„Podczas gdy rasizm biologiczny – czy też to, co czasem określa się mianem rasizmu naukowego – opiera się na różnicach fizycznych, rasizm kulturowy przyjmuje różnice kulturowe jako czynniki wyrażające istotę danej grupy, kategoryzujące ją, wyznaczające jej granice i tworzące hierarchię. To znaczy, że na podstawie cech kulturowych – na przykład zwyczajów czy praktyk – określa się decydujące różnice między grupami. Różnice kulturowe są z kolei bazą do uznawania niektórych grup za bardziej zaawansowane, bardziej cywilizowane itd.” – zaznaczają Prof. Tariq MODOO, profesor socjologii, nauk politycznych i polityki społecznej oraz Thomas SEALY, wykładowca w dziedzinie etniczności i rasy w Szkole Socjologii, Polityki i Studiów Międzynarodowych Uniwersytetu Bristolskiego.

PAP/WszystkocoNajważniejsz/MB