СИ «Amazon» мижозларини сервисларсиз қолдирди: алгоритм тизимни «бузди»

Ҳодиса айрим ходимларни алгоритм-программистларни иш жараёнларига шунчалик агрессив жорий этиш мақсадга мувофиқлиги ҳақида ўйлаб кўришга мажбур қилди. Бу ҳақда «Financial Times» хабар берди.

СИ тизимни қандай «ўчирди?»

Энг кўзга кўринган ҳолат декабр ўрталарида содир бўлган. AWS’нинг мижозларга булутли хизматлар бўйича харажатларини кузатиш имконини берувчи тизими 13 соат давомида ишламай қолган. Манбаларга кўра, муаммога дастурлаш учун ишлаб чиқилган фирмавий СИ-восита – «Kiro» сабаб бўлган.

Муҳандислар унга тизимга мустақил равишда ўзгартиш киритиш ваколатини берган. Автономияга эга бўлган алгоритм вазифани ҳал қилишнинг «энг мақбул» йўли сифатида радикал қарорни танлаган – муҳитни «ўчириб, қайта яратиш».

Компания расмий ҳисоботида носозлик юз берганини тан олди, бироқ у «жуда чекланган» хусусиятга эга бўлгани ва фақат материк Хитой ҳудудидаги биргина сервис фойдаланувчиларига таъсир қилганини таъкидлади.

Инсон омили ёки машина хатосими?

Бундай ҳолат биринчи марта содир бўлаётгани йўқ. «Amazon» ходимлари журналистларга яқинда яна бир шунга ўхшаш ҳодиса юз берганини айтган. Унда ҳам сунъий интеллектдан фойдаланиш иш жараёнида узилишларга сабаб бўлган.

«Сўнгги бир неча ой ичида камида икки марта иш муҳитида носозлик кузатдик. Муҳандислар муаммони сунъий интеллект агентига инсон аралашувисиз ҳал қилишга рухсат беришди. Узилишлар катта эмасди, аммо тўлиқ прогноз қилинадиган эди», – деди «Amazon Web Services» (AWS)нинг катта ходимларидан бири.

Бироқ компания раҳбарияти муаммо айнан технологиянинг ўзида экани ҳақидаги фикрга қатъий қўшилмайди. «Amazon»нинг билдиришича, нейротармоқ иштирок этгани шунчаки тасодиф бўлган ва бундай ҳолат қўлбола аралашув ёки бошқа дастурдан фойдаланилганда ҳам содир бўлиши мумкин эди.

«Ҳар икки ҳолатда ҳам бу сунъий интеллект хатоси эмас, балки фойдаланувчи хатоси бўлган», – дейилди компания матбуот хизмати эълон қилган баёнотда.

Шунингдек, компания СИ-воситалардан фойдаланилганда хатолар тез-тез содир бўлаётганини тасдиқловчи далиллар йўқлигини таъкидлади. «Amazon» вакиллари иккинчи ҳодиса умуман мижозлар сервисларига таъсир қилмаганини ҳам қўшимча қилди.