АҚШ ҳукумати Anthropic’ни иккита энг кучли AI моделини ўчиришга мажбур қилди
АҚШ ҳукумати миллий хавфсизликка оид хавотирлар сабаб Anthropic компаниясига Fable 5 ва Mythos 5 моделларидан хорижий фуқароларнинг фойдаланишини тўхтатиш бўйича кўрсатма берди. Компания талабни техник жиҳатдан алоҳида фойдаланувчиларга қўллай олмагани учун моделларни барча мижозлар учун ўчиришга мажбур бўлди.
Anthropic АҚШ ҳукуматининг экспорт назорати бўйича кўрсатмасига мувофиқ Fable 5 ва Mythos 5 сунъий интеллект моделларига киришни тўлиқ тўхтатди. Чеклов АҚШ ҳудудида ёки ундан ташқарида бўлишидан қатъи назар, барча хорижий фуқароларга, жумладан компаниянинг хорижлик ходимларига ҳам татбиқ этилган.
Компанияга кўра, ҳукумат кўрсатмасини бажариш учун хорижий фойдаланувчиларнигина тизимдан ажратиш имконияти бўлмаган. Шу сабабли Fable 5 ва Mythos 5 барча мижозлар учун бирданига ўчирилди. Anthropic’нинг бошқа AI моделлари фаолиятида эса ўзгариш бўлмайди.
Anthropic ҳукумат хатини 12 июнь куни АҚШ шарқий вақти билан соат 17:21 да олганини билдирди. Ҳужжатда миллий хавфсизликка таҳдиднинг аниқ тафсилотлари очиқланмаган. Компаниянинг тушунишича, ҳукумат Fable 5 ҳимоя чекловларини четлаб ўтиш — “jailbreak” қилиш имконини берувчи усул ҳақида маълумот олган.
Мазкур усул моделга дастурий кодни таҳлил қилдириш ва ундаги заифликларни топишга имкон бергани айтилмоқда. Anthropic намойиш қилинган ҳолатни ўрганиб, модель илгари маълум бўлган бир нечта кичик дастурий заифликни аниқлаганини қайд этган.
Бироқ компания бундай имконият фақат Fable 5 ёки Mythos 5’га хос эмаслигини таъкидламоқда. Anthropic’нинг даъво қилишича, худди шу заифликларни бошқа оммага очиқ AI моделлари ҳам махсус ҳимояни четлаб ўтмасдан аниқлай олади.
Компания Fable 5 ишга туширилишидан аввал унинг хавфсизлик тизимлари АҚШ ҳукумати, Буюк Британиянинг AI Security Institute ташкилоти, мустақил компаниялар ва ички гуруҳлар томонидан минглаб соат давомида синовдан ўтказилганини билдирди. Anthropic ҳозиргача модель ҳимоясини кенг кўламда бузадиган универсал “jailbreak” усули топилмаганини қайд этмоқда.
Шунга қарамай, компания ҳар қандай AI моделини барча четлаб ўтиш усулларидан мутлақ ҳимоялаш ҳозирча имконсиз бўлиши мумкинлигини тан олган. Шу сабабли Fable 5’да бир нечта ҳимоя қатламлари, доимий мониторинг ва шубҳали фаолиятни аниқлаш тизими қўлланган.
Anthropic хавфсизлик бузилишларини ўрганиш учун Fable 5 фойдаланувчиларининг маълумотларини 30 кун давомида сақлаш талабини ҳам жорий қилган эди. Компания бу сиёсат айрим мижозларнинг норозилигига сабаб бўлган бўлса-да, потенциал ҳужумларни аниқлаш ва бартараф этиш учун зарур эканини билдирмоқда.
Anthropic ҳукумат кўрсатмасига риоя қилаётганини, бироқ унинг асосларига қўшилмаслигини маълум қилди. Компания тор доирада ишлайдиган ва зарарли натижага олиб келгани исботланмаган битта потенциал “jailbreak” сабаб юз миллионлаб фойдаланувчига тақдим этилган тижорий моделни тўлиқ ўчириш ҳаддан ташқари кескин чора эканини таъкидлаган.
Компания фикрича, ушбу мезон бутун AI саноатига бир хил татбиқ қилинса, етакчи ишлаб чиқувчиларнинг янги моделларни оммага тақдим этиши деярли тўхтаб қолиши мумкин. Anthropic хавфли AI моделларини блоклаш ваколати ҳукуматда бўлишини қўллаб-қувватлашини, аммо бундай қарорлар шаффоф, адолатли ва аниқ техник далилларга асосланган тартибда қабул қилиниши кераклигини билдирган.
Ҳозирча АҚШ ҳукумати кўрсатмасининг батафсил техник асослари очиқланмаган. Anthropic вазиятни “тушунмовчилик” деб баҳолаб, Fable 5 ва Mythos 5’га киришни қайта тиклаш учун ҳукумат билан музокара олиб бораётганини маълум қилди.
