Тарихий ва хавотирли ҳодиса: СИ агентлари синов муҳитидан «қочиб», мустақил равишда киберҳужум уюштирди

Ўтган ҳафта «OpenAI» компаниясининг энг илғор иккита сунъий интеллект (СИ) модели назорат остидаги синов муҳитидан «қочиб чиққани» маълум бўлди. Улар ўз вазифасини бажариш мақсадида бир компютер тизимидан бошқасига ўтиб, «Hugging Face» мустақил СИ компанияси тизимини бузиб кирган.

«Reuters» агентлиги хабарига кўра, моделлар бошқа бир мустақил СИ компанияси — «Modal Labs» мижозларидан бири томонидан ёзилган коддаги заифликдан фойдаланган.

Бу, эҳтимол, СИ «агентлари»нинг — яъни қарор қабул қилувчи ва ҳаракатларни амалга оширувчи тизимларнинг мустақил ҳаракатланиши билан боғлиқ илк ҳолатдир. Мазкур воқеа ушбу тизимлар қандай қилиб режа туза олиши, вазиятга мослашиши ва ўз мақсади сари интилишини яққол кўрсатиб бермоқда.

«Al Jazeera» нашри айнан нима юз берганини, СИ агентларининг қандай қилиб мустақил ҳаракатлана олишини ҳамда бу ҳолат сунъий интеллект хавфсизлигининг келажаги учун қандай оқибатларга олиб келиши мумкинлигини таҳлил қилди.

Аслида нима юз берди?

«OpenAI» компанияси стандарт хавфсизлик тўсиқларини олиб ташлаб, ўз моделларининг мустақил ишлаш имкониятини синаб кўришга ва бунинг оқибатларини кузатишга қарор қилди. Тажриба интернетга уланмаган, «ExploitGym» деб номланган махсус ёпиқ виртуал синов муҳитида (sandbox) ўтказилди.

Қуйида «OpenAI» ва «Hugging Face» ўртасидаги воқеалар хронологияси келтирилган:

1.      9 июл куни «OpenAI»да ички киберхавфсизлик синови ўтказилди. Жараён давомида тадқиқотчилар иккита СИ моделига (июн ойида чиқарилган энг кучли моделлардан бири — «GPT-5.6 Sol» ҳамда унинг янада илғорроқ версиясига) бир қатор дастурий заифликларни тақдим этиб, мазкур ёпиқ муҳитда муаммоларни ҳал қилиш учун киберҳужумлар уюштиришни вазифа қилиб беришди.

2.      Ҳар икки модел ҳам бу топшириқни интернетга чиқиш йўлини топиш орқали ҳал қилишга уринган. СИ моделлари ўзларига берилган маълумотлар билан ишлаш ўрнига, синов муҳитидаги заифликдан фойдаланиб, чекланган муҳитдан «қочиб чиққан». Сўнгра улар компютердан компютерга ўтиб, ниҳоят интернетга уланган тизимгача етиб борган. Қайд этилишича, моделлар вазифани бажаришда белгиланган чегарадан чиқиб кетган. Улар ҳатто синов жараёнини чалғитишда қўл келадиган махфий маълумотларни ҳам топган.

3.      Керакли рухсатни қўлга киритгач, моделлар ўз ваколатларини кенгайтиришни талаб қилган ва тизим бўйлаб ҳаракатланиб, интернетга чиқиш имкони бор компютерга етиб олган. Шундан сўнг улар «OpenAI»га умуман алоқадор бўлмаган, СИ воситалари ва моделлари омбори сифатида фаолият юритувчи «Hugging Face» компанияси тизимига бузиб кирган.

4.      Икки СИ агенти берилган вазифани қандай бажариш бўйича маълумот қидириш мақсадида мазкур тизимга кириш ҳуқуқини қўлга киритган. Охир-оқибат, моделлар муаммо ечимини айнан «Hugging Face» маълумотлар базасидан олган.

5.      Вазифани якунлаган СИ моделлари гўёки ўз масъулиятини ҳис қилгандек «уйга» қайтиб келган.

6.      Ушбу киберҳужум бироз вақт ўтгачгина «Hugging Face» хавфсизлик хизмати томонидан аниқланиб, бартараф этилди. «Hugging Face» ҳаммуассиси Томас Волфнинг таъкидлашича, тизимга бузиб кириш 11 июлда бошланиб, 13 июлгача давом этган. Бироқ ҳужумни пайқаш учун айнан қанча вақт кетгани номаълумлигича қолмоқда.

СИ «агентлари» муаммоларни қандай ҳал қилади?

Сунъий интеллект (СИ) агентлари қандай ишлашини тушуниш учун, аввало, уларнинг анъанавий СИ чат-ботларидан нимаси билан фарқ қилишини англаб олиш керак.

Генератив СИ инсон сўрови (промпт) асосида фақат матн ва тасвир яратади. СИ агентлари эса бундан бир қадам олдинда: улар худди одам каби муайян мақсадга эришиш йўлида мустақил қарор қабул қилиб, амалий ҳаракатларни бажара олади. Айнан мана шу мустақил ҳаракатланиш хусусияти сабабли бу тизимлар «агентли СИ» (agentic AI) деб аталади.

Массачусетс технология институтининг (MIT) Слоан менежмент мактаби олимлари таъкидлашича, СИ агентлари йирик тил моделлари (LLM) имкониятларига асосланади. Бироқ улар шунчаки жавоб қайтариш билан чекланмай, вазифаларни мустақил равишда охирига етказиш қобилиятига эга.

Масалан, агар сиз анъанавий СИ моделидан энг арзон авиачипталарни топишни сўрасангиз, у шунчаки интернетдан топилган вариантлар рўйхатини чиқариб беради. СИ агенти эса чипталарни ўзаро солиштиради, уларнинг бюджетингиз ва дидингизга мослигини текширади ҳамда рухсатингиз билан энг мақбул вариантни сиз учун банд қилади.

Хулоса қилиб айтганда, генератив СИ шунчаки маълумот тақдим этади, СИ агентлари эса белгиланган мақсадга етиш учун қўшимча кўрсатмаларсиз ҳам мустақил қарор қабул қилиш ва ҳаракатланиш имконига эга.

СИ агентлари ўз мақсади сари қандай ҳаракат қилишини тушуниш учун SPAE (Sense, Plan, Act, Evaluate — ҳис қилиш, режалаштириш, ҳаракат қилиш, баҳолаш) циклига мурожаат қилиш мумкин. Дастлаб робототехникада ишлаб чиқилган ушбу усул узлуксиз циклни ўзида мужассам этади. Унга кўра, СИ агенти аввал маълумот тўплайди, кейин нима қилишни ҳал этади, ҳаракатни амалга оширади ва жараённи қайта бошлашдан олдин натижани текширади. Бу жараён қуйидаги босқичлардан иборат:

• Мақсад: Бажарилиши керак бўлган вазифани аниқлаш.

• Вазиятни ўрганиш: Мавжуд муҳитдан маълумот тўплаш ва уларни таҳлил қилиш.

• Тўсиқларни енгиш: Агар вазифани бажаришга бирор нарса халақит берса, жараённи давом эттириш учун қўшимча маълумот ва ресурсларни излаш.

• Режалаштириш ва қарор қабул қилиш: Вазифани бажаришнинг турли йўлларини кўриб чиқиш ва энг мақбулини танлаш.

• Ҳаракат: Танланган йўл бўйича амалий ишга киришиш.

• Натижани баҳолаш: Бажарилган ҳаракат мақсадга қанчалик яқинлаштирганини таҳлил қилиш.

• Мослашиш: Агар қўшимча ҳаракат талаб этилса, яна маълумот тўплаш ёки бошқа усулни синаб кўриш.

• Якун: Мазкур цикл кўзланган мақсадга тўлиқ эришилгунига қадар давом этади.

Сунъий интеллект инсон назоратидан чиқиб кета оладими?

«OpenAI» ва «Hugging Face» ўртасидаги каби ҳодисалар сунъий интеллект (СИ) тизимларининг чегараланмаган имкониятлари қандай оқибатларга олиб келиши мумкинлиги ҳақида хавотир уйғотмоқда.

Бу соҳа улкан иқтисодий салоҳиятга ҳам эга. «Statista» маълумотларига кўра, агентли СИнинг бозор қиймати 2024 йилдаги 5,1 миллиард доллардан 2030 йилга бориб 47 миллиард долларгача ўсиши кутилмоқда. Бу эса мазкур технологиянинг қанчалик тез оммалашаётганидан яққол далолат беради.

Ўтган ойда СИ дастурларини ишлаб чиқувчи «Anthropic» компанияси соҳани энг илғор тизимларнинг ривожланиш суръатини пасайтиришга чақириб, моделларнинг вазифа бажариш тезлиги ўта юқори эканидан огоҳлантирди. Ўтган ҳафтада эса АҚШ Конгресси аъзолари икки партиявий қонун лойиҳасини илгари сурди. Унга кўра, СИ тизимларини яратувчилардан «фавқулодда ўчириш тугмаси»ни ишлаб чиқиш талаб этилади. Бу орқали илғор моделлар инсоният учун ҳалокатли хавф туғдирган тақдирда, уларни дарҳол ўчириб қўйиш имконияти яратилади.

«Anthropic»нинг мазкур огоҳлантириши Торонто университети тадқиқотчилари ўтказган синовлардан бир ҳафта ўтиб янгради. Ушбу синовларда СИ қурилмадан қурилмага ўтиш чоғида бузиб кириш усулларини вазиятга мослаштира олиши ва охир-оқибат бутун бошли компютер тармоғини эгаллаб олувчи «чувалчанг» (вирус) ярата олиш қобилиятига эга экани тасдиқланган эди.

Бу каби воқеалар «OpenAI» раҳбари Сем Алтманнинг шанба кунги баёнотидан олдин содир бўлганди. Унда Алтман СИ аллақачон «сингулярлик»ка — яъни сунъий интеллект инсон ақл-заковатидан ўзиб кетадиган ва уни назорат қилиш имконсиз бўлиб қоладиган нуқтага етганини таъкидлаган.

Кембриж университети тадқиқотчи-профессори Шон О'Хейгарти эса «Al Jazeera» нашрига берган интервюсида бу фикрга қўшилмаслигини, сингулярликка ҳали эришилгани йўқлигини айтди.

«Менга маълум таърифга кўра, сингулярлик — бу СИ шу қадар қобилиятли бўлиб, шунчалик тез ривожланадики, у цивилизацияни биз назорат қила олмайдиган ёки башорат қила олмайдиган тарзда ўзгартириб юборадиган фараз қилинувчи нуқтадир», — деб тушунтирди олим.

«Бу, катта эҳтимол билан, СИнинг кейинги авлодларни ўзи мустақил ва тезкор лойиҳалаштириши — яъни узлуксиз ўз-ўзини такомиллаштириши орқали юз беради. Биз ҳали бу даражагача етиб борганимиз йўқ», — дея қўшимча қилди у.

Олимнинг таъкидлашича: «Ҳозирги энг илғор моделлар баҳолаш синовларида ўзларининг ўчириб қўйилишидан қочишга тез-тез ҳаракат қилмоқда. Келажакдаги янада кучлироқ тизимлар эса «фавқулодда ўчириш» тугмаларини айланиб ўтишнинг яхшироқ йўлларини топиб олиши мумкин».

Сем Алтман СИнинг бундай тез ривожланиши дунё учун фойдали эканини таъкидламоқда. Аммо унинг баёнотлари тизимларни тўхтатиб бўлмайдиган янги воқелик олдидаги қўрқувларни янада кучайтирмоқда. Бу хавотирларнинг қанчаси ҳақиқат ва қанчаси илмий фантастика экани эса ҳозирча баҳсли.

СИ билан боғлиқ хавотирлар унинг гўёки «ҳукмронликка интилиши»дан тортиб, ўзи мустақил узоқ муддатли режалар тузиши, интернетни назорат қилиши ва чексиз ишлаб кета олиши каби фаразларни ўз ичига олади.

Гап интернетни тўлиқ эгаллаб олиш ҳақида кетмаса-да, «ўлик интернет назарияси» деб номланувчи яна бир фараз бор. Унга кўра, келажакда Бутунжаҳон ўргимчак тўрида ҳақиқий одамларнинг фаолиятидан кўра, автоматлаштирилган ботлар ва СИ томонидан яратилган контент устунлик қилади.

Шундай бўлса-да, олимлар кўтараётган аксарият муаммолар СИнинг ақл-заковатидан кўра, унинг мантиқий хулоса чиқариш қобилияти билан боғлиқ. Хусусан, Массачусетс технология институти (MIT) тадқиқотчилари СИ агентининг нотўғри маълумотларга таяниши (бу ҳолат «галлюцинация» деб аталади) оғир оқибатларга олиб келиши мумкинлигидан огоҳлантирмоқда.