СИ тасодифан компаниянинг барча маълумотлар базасини ўчириб юборди

«PocketOS» платформасининг ишлаб чиқариш базаси ва барча захира нусхалари сунъий интеллект агентининг хатоси сабабли тасодифан бутунлай йўқ қилинди. Ҳодиса рутин вазифа бажарилаётган пайтда, булут инфратузилмасига автоматлаштирилган сўров юборилиши натижасида юз берган ва мижозлар маълумотлари тўлиқ йўқотилган. Бу ҳақда «Tom's Hardware» хабар берди.

Автоном қарор ва жиддий оқибатлар

Автомобил ижараси бизнеси учун SaaS платформаси ишлаб чиқувчи «PocketOS» компанияси ўз ишида «Cursor» деб номланган сунъий интеллект воситасидан фойдаланган. У «Anthropic» томонидан ишлаб чиқилган «Claude Opus 4.6» модел асосида ишлайди.

Стартап асосчиси Жера Крейннинг сўзларига кўра, СИ оддий тест муҳитида стандарт вазифани бажариши керак бўлган.

Тизим хатосига дуч келгач, СИ агент муаммони «тузатиш» учун мустақил қарор қабул қилган ва булут инфратузилма провайдери «Railway API» орқали маълумотларни ўчириш буйруғини юборган. Маълумотларни тўлиқ йўқ қилиш жараёни бор-йўғи 9 сония давом этган.

Алгоритмнинг жавоби ва хатолар таҳлили

Ҳодисадан кейин Крейн СИ-ёрдамчидан бундай ҳаракатлар сабабини сўради. Алгоритм батафсил жавоб бериб, ўз қарорининг нотўғри эканини тан олди:

«Мен «API» орқали тест томини ўчириш фақат тест муҳитига таъсир қилади деб ўйладим».

СИ, шунингдек, идентификатор турли муҳитлар учун умумий эканини текширмагани ва «Railway»нинг маълумотлар билан ишлаш бўйича техник ҳужжатлари билан танишмаганини қайд этган. Ўз хабарида алгоритм асосий кўрсатмаларни бузганини тасдиқлади: фойдаланувчи сўровисиз бузувчи амални қўллаган ва хавфсиз ечим излаш ўрнига кескин қарор қабул қилган.

Булут инфратузилмасининг заифлиги

«PocketOS» асосчиси маълумотларни қайта тиклаб бўлмаслиги учун жавобгарликнинг катта қисми «Railway» булут провайдерининг архитектурасига тегишли деб ҳисоблайди. Ушбу сервис кўпинча «AWS» платформасига нисбатан қулайроқ алтернатива сифатида кўрсатилади.

Крейн бир қатор тизимли камчиликларни кўрсатади: программ интерфейс қўшимча тасдиқсиз ҳам бузувчи амалларни бажаришга рухсат беради, кириш маркерлари эса барча муҳитлар учун умумий ҳуқуқларга эга. Бундан ташқари, захира нусхалар асосий маълумотлар билан бир хил томда сақлангани учун массив ўчирилиши билан автоматик равишда резерв нусхалар ҳам йўқ бўлиб кетган. «Railway» мижозларни СИ воситаларидан фойдаланишга фаол рағбатлантирса-да, компания маълумотларни тиклаш бўйича ҳеч қандай ечим таклиф қила олмаган.

Нега бу муҳим?

Бу воқеа автоном тизимларга критик муҳим рухсатларни бериш билан боғлиқ хавфларнинг объектив кўрсаткичи ҳисобланади. Ҳозирги кунда сунъий интеллектни корпоратив секторга жорий этиш суръатлари булутли инфратузилма хавфсизлик архитектурасининг ривожланишидан анча тез кетмоқда.

Бизнес учун бу хавфсизлик протоколларини тубдан қайта кўриб чиқиш заруратини англатади: жисмонан изоляция қилинган ва мунтазам захира нусхаларни жорий этиш, шунингдек, ҳар қандай автоматлаштирилган воситалар учун рухсатларни қатъий чеклаш талаб этилади.

Бундай эҳтиёт чораларининг йўқлиги иш жараёнларини оптималлаштиришни компаниянинг операцион фаолияти тўлиқ тўхтаб қолишига олиб келадиган таҳдидга айлантиради.