Na samom kraju prošle godine, u specijaliziranim medijima pojavili su se zabrinjavajući izvještaji. Sve je više korisnika umjetne inteligencije Grok, iza koje stoji Elon Musk, koristilo njezine mogućnosti stvaranja i manipulacije slika kako bi radilo seksualizirane slike stvarnih osoba.
Radi se o mogućnosti koju su sve druge vodeće AI tvrtke onesposobljavale na svakom svojem modelu prije nego što bi uopće bio pušten u javnost. Brojni se korisnici i danas žale kako su “zaštitne ograde” na modelima Open AI-ja, Googlea ili Midjourneyja pretjerane, kako cenzurira i odbija izraditi čak i vrlo nevine zahtjeve i fotografije, u strahu da ne bi napravio pornografski ili seksualizirani sadržaj, ili prikazao stvarnu osobu u potencijalno ponižavajućem kontekstu.
Grok protiv “woke” kulture
No, Elon Musk, samoprozvani “zaštitnik slobode govora” i “borac protiv cenzure”, koji unatoč tome rado cenzurira i ušutkava kritike upućene njemu i njegovim tvrtkama, gradio je Grok AI kao ideološku suprotnost vodećim modelima. Grok, tvrdio je Musk, neće cenzurirati svoje odgovore, niti će popustiti pritisku “woke” kulture. No, slike koje je počeo raditi za svoje korisnike krajem prošle godine pokazale su zašto drugi vodeći modeli imaju zaštite.
Korisnici bi mu dali fotografiju i Grok bi bez problema “skinuo” osobu na toj fotografiji – obukao ju u kupaći kostim ili zavodljivo donje rublje. Po želji bi promijenio i pozu, u seksualniju ili sugestivniju. Problem je već bio dovoljno velik dok su korisnici koristili fotografije poznatih žena – političarki, glumica, modela, pjevačica – no ono što je prešlo svaku granicu je što su korisnici koristili i privatne fotografije žena koje poznaju, pa čak i djevojaka ili djevojčica.
Pročitajte više: Osvetnička pornografija pogađa sve: od javnih osoba do naše djece
‘Propusti u zaštitama’
Grok je 2. siječnja priznao kako su “propusti u zaštitama” doveli do slika maloljetnika u “minimalnoj odjeći”, te da se radi na poboljšanjima. Istog su dana francuski ministri prijavili ovaj suspektni sadržaj Groka, dijeljen na platformi X, francuskom tužiteljstvu i regulatorima.
Ubrzo na ove vijesti reagira i Europska komisija, kao i brojni drugi državni regulatori diljem svijeta. EU Groku nalaže čuvanje svih internih dokumenata i podataka ususret nadolazećoj istrazi, predosjećajući da bi Musk mogao pokušati ukloniti sve digitalne dokaze neprihvatljivog ponašanja svojeg AI-ja.
Početkom ovog tjedna, Malezija i Indonezija blokirale su platformu X, a senatori u SAD-u počeli su pozivati Apple i Google da uklone X i Grok applikacije iz svojih ekosustava dok se ta mogućnost ne zaustavi.
Pod pritiskom svjetskih regulatora i izglednog pada prihoda, Grok je prvo u tišini ukinuo mogućnost manipulacije slika stvarnih ljudi, no Musk je kritičare nastavio optuživati za cenzuru, a na službeni upit agencije Reuters tvrtka je odgovorila samo “klasični mediji lažu”.
Šteta je počinjena
Tek je u četvrtak stiglo i službeno priopćenje da se više neće moći manipulirati slikama stvarnih ljudi uz pomoć Groka. “Uveli smo tehnološke mjere kako bi spriječili profil Grok da dopušta uređivanje slika stvarnih ljudi u oktivajućoj odjeći”, poručili su na platformi X.
Međutim, za mnoge žrtve, šteta je već počinjena, a fotografije koje su u međuvremenu raširene po internetu više se ne mogu ukloniti. Problem leži u tome što je, prema kritičarima Groka, platforma trebala djelovati proaktivno i u startu onemogućiti ovakvu vrstu zlouporabe.
Premijer Ujedinjenog Kraljevstva Keir Starmer tako je upozorio X da bi platforma mogla izgubiti pravo na samoregulaciju, iako se trenutačno doima da je britanska vlada zadovoljna s gašenjem ove mogućnosti.
S druge strane Europsku komisiju bit će znatno teže odvratiti od započete istrage – pogotovo s obzirom da se od X-a očekuje pohrana i dostavljanje ne samo objava na toj platformi koje su potencijalno kršile zakon, već i interni dokumenti koji bi trebali pokazati koliko je temeljito platforma odvagnula rizike i koje je preventivne mjere poduzela prije implementacije mjere uređivanja fotografija.
Važno je naglasiti da, dok je Grok trenutačno ukinuo tu mogućnosti, a drugi veliki servisi ju nikad nisu ni stavili na raspolaganje, to ne znači da će u budućnosti biti nemoguće “skidati” ljude na fotografijama i stavljati ih u nepoćudne pozicije i okolnosti.
Internet prepun ‘nudify’ servisa
Na internetu već postoji veliki broj puno manjih servisa koji nude takozvane “nudify” usluge, baziranih na javno dostupnim algoritmima umjetnih inteligencija, koji su lako dostupni svima, pa tako i tinejdžerima, koji su posebno ranjiva skupina. Javno dostupne generativne modele, kao što je Stable Diffusion, moguće je postaviti i potpuno lokalno, na vlastitom računalu, te time izbjegavaju bilo kakav regulatorni nadzor i moguće zaštitne ograde.
Slučaj Groka privukao je pažnju javnosti prvenstveno zbog toga što je opcija bila dostupna svima, i što su svi mogli vidjeti njezine rezultate – imala je najveću moguću vidljivost – no mnoge će žene i djevojke i dalje moći biti mete ovakve lažne “osvetničke pornografije”, sa svim društvenim i duševnim posljedicama koje to povlači uz sebe.
Dugoročno rješenje ovog problema za sada ne postoji. Osim edukacije potencijalnih žrtava o tome kako da se zaštite, lekcija o privatnosti i čuvanju vlastitih fotografija koje bi svi trebali naučiti, veliki je posao i pred zakonodavcima da se pronađe način kako učinkovito kazniti one koji stvaraju i dijele takve fotografije, koje ponižavaju i uznemiravaju žene, na način da kazna djeluje kao uistinu učinkovito odvraćanje.
