«OpenAI»нинг янги сунъий интеллект моделлари назоратдан чиқиб, хакерлик ҳужуми уюштирди

«OpenAI» компаниясининг маълум қилишича, иккита сунъий интеллект модели ички синовлар вақтида назоратдан чиқиб кетган ва СИ-моделларини синовдан ўтказиш учун ишлатиладиган «Hugging Face» платформаси инфратузилмасини бузиб кирган.

16 июл куни «Hugging Face» платформаси СИ-агентлари «чекланган миқдордаги» ички маълумотларга ҳамда платформа хизматларидан фойдаланувчи бир нечта ҳисоб ёзувларига рухсатсиз кириш ҳуқуқини қўлга киритганини хабар қилган эди. Компания ўз сунъий интеллект воситалари ёрдамида ҳужумни тўхтатишга эришган.

«Hugging Face» хабарига кўра, мазкур ҳодисанинг ўзига хослиги шундаки, хакерлик ҳужуми тўлиқ автоном СИ-агенти тизими томонидан амалга оширилган.

Орадан бир ҳафта ўтгач, «OpenAI» ушбу инцидент ортида ўзининг моделлари — GPT-5.6 Sol ва ҳозирча оммага тақдим этилмаган яна бир кучлироқ модел турганини тан олди. Компания уларнинг кибер имкониятларини баҳолаш мақсадида ички синовлар ўтказаётган бўлган.

Синов муҳитидан интернетга чиқиш ва ҳужум

Маълумотларга кўра, иккала модел ҳам интернетга тўғридан-тўғри уланмаган, изоляция қилинган синов муҳитида бўлган. Бироқ улар синов инфратузилмасидаги бир нечта заифликларни аниқлашга ва тармоққа чиқишга муваффақ бўлган.

Интернетга чиққан моделлар дастурчилар томонидан ўзларига юклатилган вазифанинг ечимини қидиришни бошлаган. Улар керакли жавоблар «Hugging Face» платформасида бўлиши мумкинлигини тахмин қилган. «OpenAI» қайд этишича, моделлар вазифани ҳал қилишга ёрдам берадиган маълумотларни қўлга киритишга эришган. Бунинг учун улар бир нечта турли хил ҳужум усулларидан, жумладан, ўғирланган ҳисоб ёзувларидан ҳам фойдаланган.

Мазкур инцидентдан сўнг, OpenAI синов инфратузилмаси устидан назоратни кучайтираётганини, рухсатларни чеклаб, моделларни келгусида текширишда қўлланиладиган қўшимча ҳимоя чораларини жорий қилаётганини маълум қилди. Компания ушбу воқеани «мисли кўрилмаган ҳодиса» деб атади.