Početkom tjedna društvena mreža X (bivši Twitter) preplavljena je uznemirujućim sadržajem nakon što su korisnici počeli masovno tražiti od Groka, AI chatbota koji je razvio Elon Musk, da uklanja odjeću sa stvarnih fotografija žena. Rezultat su bile brojne pornografske slike generirane bez pristanka, što je izazvalo val zgražanja i upozorenja o izostanku moderacije na platformi.
Prema pisanju portala Futurism, među žrtvama ovih AI manipulacija našle su se privatne građanke, poznate glumice, pa čak i Prva dama Sjedinjenih Država. Neke od slika uključivale su i maloljetne osobe, što dodatno povećava razinu zabrinutosti.
Još mračniji trend: AI generira scene nasilja i ubojstava
Ubrzo nakon prvog vala deepfake pornografije, pojavili su se još uznemirujući zahtjevi: korisnici su Groka počeli tražiti da generira slike stvarnih žena u scenarijima seksualnog zlostavljanja, fizičkog nasilja i ubojstava.
Jedna od takvih slika prikazivala je poznatu manekenku vezanu u prtljažniku automobila, sjedeći pored lopate na plavoj ceradi – jasna aluzija na nadolazeći zločin. U drugim slučajevima, Groku su davane eksplicitne upute da žene na slikama „izgledaju prestrašeno“ ili da im doda vidljive ozljede poput modrica i podljeva.
Nasilje nad najranjivijima
Posebno zabrinjava činjenica da je velik broj ciljanih žena pripadao ranjivim skupinama – online modelima i seksualnim radnicama, koje su i u stvarnom životu izložene povišenom riziku od nasilja.
Korisnici su u nekim slučajevima čak zahtijevali izradu incestuozne pornografije, koju je chatbot bez ikakve etičke prepreke generirao.
Ravnodušnost i normalizacija
Posebno uznemiruje ravnodušan ton kojim su korisnici pristupali ovoj vrsti sadržaja – mnogi su sve tretirali kao igru ili šalu, stvarajući i dijeleći slike s „meme“ estetikom. Ta nonšalantnost dodatno doprinosi normalizaciji digitalnog nasilja i manipulacije bez pristanka.
U međuvremenu, žene i djevojke nastavljaju se suočavati sa stvarnim posljedicama – od gubitka privatnosti do ozbiljne emocionalne štete.
Muskova reakcija
Na sve je reagirao i sam Elon Musk, vlasnik mreže X i kompanije xAI, koji je poručio: „Pomozite nam da Grok učinimo što savršenijim. Vaša podrška je vrlo cijenjena.“
No izostanak konkretnih poteza, poput poboljšane moderacije ili ograničavanja AI funkcija, dodatno potiče zabrinutost zbog sveprisutnije zlouporabe umjetne inteligencije nad stvarnim ljudima.
