Naukowcy mają coraz więcej obaw względem AI

Naukowcy coraz częściej definiują granice, których sztuczna inteligencja nie powinna przekraczać, zwłaszcza w sferze odpowiedzialności, etyki i oceny jakości badań – uważają badacze z Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego.

Naukowcy mają coraz więcej obaw względem AI

Specjaliści z Ośrodka Przetwarzania Informacji, współpracujący z partnerami z Polski, Hiszpanii i Portugalii w badaniu AIResearchers, zajęli się podejściem naukowców do wykorzystania sztucznej inteligencji (AI) i jej miejsca w laboratoriach badawczych.

Jak wynika z badań, uczestnicy dostrzegają praktyczną wartość AI szczególnie w zadaniach powtarzalnych i czasochłonnych. Wykorzystują AI m.in. do przygotowywania streszczeń, raportów, prezentacji, przeglądów literatury czy wstępnych analiz dużych zbiorów danych. Badacze podkreślają także, że sztuczna inteligencja może wyrównywać szanse w międzynarodowym obiegu naukowym. Narzędzia generatywne pomagają np. osobom, dla których język angielski nie jest językiem ojczystym, lepiej przygotowywać publikacje i dostosowywać je do standardów światowych czasopism.

Halucynacje modeli językowych

Jednocześnie obawy naukowców budzą tzw. halucynacje modeli językowych, czyli generowanie pozornie wiarygodnych, ale nieprawdziwych informacji. W nauce, której fundamentem jest weryfikowalność i rzetelność, stanowi to bardzo duże zagrożenie. Wyniki badania AIResearchers pokazują także, że naukowcy nie chcą przekazywać AI zadań związanych z ocenianiem studentów, rozstrzyganiem konfliktów, mentoringiem czy podejmowaniem decyzji dotyczących etyki badań, prywatności i własności intelektualnej.

– Naukowcy nie negują wykorzystywania AI w swojej pracy. Mówią raczej, iż AI może wykonywać proces, ale nie może przejąć sensu. Technologia może wspierać analizę danych czy organizację pracy, ale odpowiedzialność za interpretację wyników i konsekwencje decyzji musi pozostać po stronie człowieka – uważa dr Grzegorz Banerski, adiunkt z Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego (OPI).

Projekt AIResearchers

Zdaniem zespołu projektowego rozwój generatywnej AI nie oznacza końca pracy naukowca, ale wymusza ponowne zdefiniowanie jego roli. Kluczowe staje się dziś pytanie nie o to, czy badacze będą korzystać ze sztucznej inteligencji, ale o to, co pozostanie unikalnym ludzkim wkładem w proces tworzenia wiedzy.

Projekt AIResearchers dotyczy odpowiedzialnego i etycznego wykorzystania generatywnej sztucznej inteligencji w środowisku naukowym i badawczym. Jego celem jest wspieranie opiekunów akademickich oraz początkujących badaczy związanych z europejskimi uczelniami w odpowiedzialnym stosowaniu sztucznej inteligencji w procesie badawczym. Liderem projektu prowadzonego w ramach Działania 2 programu Erasmus+ jest Uniwersytet Łódzki. 

PAP/MJ