Generatywne AI to potężne narzędzie w międzynarodowej wojnie poznawczej [Prof. Piotr SANKOWSKI]

Prof. Shi Anbin otwarcie wskazuje, że generatywne AI to potężne narzędzie w międzynarodowej wojnie poznawczej – wskazuje informatyk, prof. Piotr SANKOWSKI z Uniwersytetu Warszawskiego.

Generatywne AI – nowe potężne narzędzie

.Koniec ery zadawania pytań innym ludziom. Dane z StackOverflow nie pozostawiają żadnych złudzeń: liczba pytań zadawanych miesiecznie przez programistów i pasjonatów technologii innym ludziom w ostatnich latach dramatycznie spadła i jest bliska zera – pisze były prezes IDEAS NCBR oraz specjalizujący się algorytmach informatyk Piotr Sankowski.

Następnie ekspert dodał: załączony wykres pokazuje koniec społecznościowego modelu wymiany wiedzy, który jest zastępowany wyroczniami w postaci chatbotów. Proces tworzenia modeli LLM na nasz wzór nazywa się „alligment” i polega na tym, że modele zaczynają coraz lepiej spełniać nasze oczekiwania, ale te oczekiwania i poglądy przecież różnią się na całym świecie.

Profesor nadzwyczajny Instytutu Informatyki Wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego wskazał, że badania naukowców z Harvardu potwierdzają zaprezentowane powyżej twierdzenia. Ekspert wskazuje, że badania te pokazują, iż „GPT-4 nie reprezentuje „całej ludzkości”. Jego odpowiedzi w testach psychologicznych i poznawczych najbardziej przypominają profil osób z kręgu WEIRD (Western, Educated, Industrialized, Rich, and Democratic) i są statystycznym „outlierem” na tle globalnej, międzykulturowej różnorodności”.

Prof. Piotr Sankowski wskazuje, że w zależności od kraju pochodzenia poszczególne modele językowe przyjmują odmienne oblicze ideologiczne. I tak zachodnie chatboty, takie jak ChatGPT, reprezentują liberalną optykę, z kolei wschodnie modele językowe DeepSeek wykazują dużą tendencję do autocenzury. Z kolei europejski chatbot Mistral jest najbardziej stonowany.

„Chiny doskonale zdają sobie sprawę z tego faktu. Prof. Shi Anbin otwarcie wskazuje, że generatywne AI to potężne narzędzie w międzynarodowej wojnie poznawczej. Według niego, bezkrytyczne przyjmowanie odpowiedzi od modeli przesiąkniętych zachodnimi uprzedzeniami może subtelnie kształtować codzienne wartości i ideologie odbiorców na całym świecie. Taki proces dostosowywania się ludzi do technologii nazywamy „reverse alignment” – dodał.

.Na koniec ekspert skonkludował: „Gdy przestajemy pytać ludzi na StackOverflow czy innych forach, tracimy kontakt z różnorodnością ludzkiego doświadczenia na rzecz uśrednionego, ideologicznie „prawdopodobieństwa”. Bazując nasze analizy na tych modelach musimy być gotowi na to, że zależą one od tego, gdzie został wytrenowany nasz ulubiony model”.

Marcin Jarzębski