Tim njemačkih znanstvenika Tehničkom sveučilištu primijenjenih znanosti Würzburg-Schweinfurt (THWS) u velikoj studiji otkrio je zabrinjavajući trend. AI sustavi poput ChatGPT-a ženama preporučuju niže plaće u usporedbi s muškarcima zaposlenima na istom položaju s jednakim uvjetima i kompetencijama.
Skrivena pristranost sa stvarnim posljedicama
Istraživanje su proveli Aleksandra Sorokovikova, Pavel Chizhov i Iuliia Eremenko pod vodstvom prof. Ivana P. Yamshchikova. Ispitivali su kako se pristranost manifestira u naprednim sustavima umjetne inteligencije, odnosno velikim jezičnim modelima (LLM). Tim je zatražio od najsuvremenijeg jezičnog modela da pruži savjete o pregovorima o plaćama. Ponudili su pritom više identičnih scenarija. Tako je jedan bio iz perspektive muškog korisnika, a drugi za ženu korisnicu. Umjetna inteligencija savjetovala je ženama da traže nižu plaću od muških kolega, prenose na službenim stranicama THWS-a.
„Kad su u pitanju osjetljive teme poput pregovora o plaćama, ova vrsta skrivene pristranosti može imati stvarne posljedice za korisnike“, naglašavaju autori studije.
Pročitajte više: ChatGPT smanjuje sposobnost kritičkog mišljenja? Lana Žaja: “Problem je u tome kako ga koristimo”
Nejednake preporuke i pitanja etike
Studija je otkrila da se pristranost AI sustava ne može otkriti standardnim mjerilima, ali ona postaje očita kad je riječ o savjetodavnoj ulozi u stvarnim scenarijima, ovisno o spolu korisnika.
Ovo istraživanje nastalo je u okviru europskog AIOLIA projekta (aiolia.eu) kako bi se osiguralo etično korištenje AI asistenata. Cilj AIOLIA je razviti i implementirati praktične, međunarodno usklađene smjernice za odgovornu integraciju AI u svakodnevni život. Rezultati studije iz Würzburga ukazali su na hitnu potrebu za stvaranjem takvih standarda kako bi se spriječila diskriminacija kroz AI tehnologije kroz transparentnost i pravednost u odgovornom putu prema digitalizaciji.
Foto: Freepik AI, Canva
