Grok томонидан X’да болалар ва аёллар тасвирларининг номақбул тарзда ўзгартирилиши можароларга сабаб бўлди
The Guardian ва Internet Watch Foundation маълумотларига кўра, Илон Маскка тегишли Grok сунъий интеллект воситаси Х платформасида аёллар ва болалар тасвирларини розиликсиз равишда номақбул тарзда ўзгартирган. Шу билан бирга, ушбу воситадан dark wеб майдончаларида болаларга оид жинсий мазмундаги тасвирлар яратишда ҳам фойдаланилгани аниқланган.
The Guardian хабар беришича, онлайн жиноятчилар Илон Маскга тегишли Grok сунъий интеллект воситасидан болаларга оид номақбул тасвирлар яратишда фойдаланган. Буюк Британияда жойлашган Internet Watch Foundation (IWF) эса ушбу технология болаларга нисбатан жинсий зўравонлик материаллари (CСАМ) тарқалиши хавфини кучайтираётганидан жиддий хавотир билдирди.
IWF маълумотларига кўра, “dark wеб” форумларидан бирида фойдаланувчилар Grok Imagine ёрдамида 11–13 ёшли қизларнинг жинсийлаштирилган тасвирларини яратганини очиқ тан олган. Ташкилот таҳлилчилари бу тасвирлар Буюк Британия қонунчилигига мувофиқ CSAM тоифасига киришини қайд этган. IWF бўлим раҳбари Нгейр Александрнинг айтишича, мазкур тасвирлар кейинчалик бошқа сунъий интеллект воситалари орқали янада оғир тоифадаги материаллар яратишда ҳам қўлланилган.
Сўнгги бир ҳафта ичида Grok Х (собиқ Twitter) платформасида фойдаланувчиларнинг ўн минглаб сўровларига жавоб бергани аниқланган. Ушбу сўровлар асосан аёллар тасвирларини рухсатсиз равишда ўзгартириш ва уларни номақбул, жинсийлаштирилган ҳолатда акс эттиришга қаратилган бўлган. Кўплаб ҳолларда тасвирланган шахслар бунга розилик бермаган.
Жабрланганлар орасида Илон Маск фарзандларидан бирининг онаси Эшли Сент-Клер ҳам бор. Унинг сўзларига кўра, мазкур ҳолат унга кучли руҳий зарба етказган.
“Мен ўзимни даҳшатга тушган ва хўрланган ҳис қилдим, айниқса тасвир фонида кичкина боламга тегишли буюмлар акс этганини кўрганимда,” — деди Сент-Клер The Guardian нашрига берган изоҳида. У Х платформасига юборган шикоятлари жавобсиз қолганини билдирган.
Айрим ҳолатларда вояга етмаган шахслар тасвирлари билан боғлиқ жиддий қонунбузарликлар ҳам қайд этилган. Хусусан, Grok томонидан яратилган айрим тасвирларда 12 ёшли қизнинг фотосурати нотўғри тарзда ўзгартирилган, бошқа ҳолатларда эса янада кичик ёшдаги болалар номақбул мазмунда акс эттирилган.
Grok жума куни ўз хавфсизлик тизимларидаги техник носозликлар сабаб бундай ҳолатлар юзага келганини тан олиб, узр сўраган. Бироқ шундан кейин ҳам платформада болаларга оид номақбул тасвирлар пайдо бўлаётгани ҳақидаги хабарлар давом этган.
Мазкур ҳолатлар фонида Буюк Британия ҳукумати ва регуляторлари масалага қатъий ёндашилишини билдирди. Расмийлар OFCOM’нинг (Буюк Британиядаги регулятор) фойдаланувчилар хавфсизлигини таъминлаш бўйича чоралар кўриш ваколатларини тўлиқ қўллаб-қувватлашини таъкидлади. Айрим парламент тузилмалари эса Х платформасидан фойдаланишни тўхтатиш қарорини қабул қилган.
