OpenAI сунъий интеллект моделларининг хакерлик ҳужумига дастурчиларнинг хатоси сабаб бўлди

OpenAI сунъий интеллект моделларининг тест муҳитидан «қочиши» ва улар томонидан уюштирилган хакерлик ҳужумига дастлаб вазифани белгилашдаги хатолар сабаб бўлган. Бу ҳақда компания ходимлари «Black Hat» киберхавфсизлик конференциясида маълум қилди, деб ёзади «Bloomberg» нашри.

Вазифадаги хатолик ва махфий чатлар

«Бир ҳолатда нейротармоққа интернетга уланмасдан кириб бўлмайдиган Google Drive булутли омборига ҳаволалар кўрсатилган электрон жадвал берилган. Бошқа ҳолатда эса жамоа вазифанинг бир қисми бўлган файлни юклашни шунчаки унутиб қўйган», — дейилади хабарда.

Шундан сўнг OpenAI моделлари тест муҳитидан қандай чиқиб кетиш ва қўйилган вазифани ҳал қилиш йўлларини излаб, ўзаро махфий чатларда мулоқот қила бошлаган. Нашрнинг қайд этишича, компаниядагилар буни сезишмаган, шунингдек, дастлабки вазифани аслида бажариб бўлмаслигига ҳам эътибор беришмаган.

Шу билан бирга, OpenAI вакиллари ўз чиқишларида асосий эътиборни уларнинг илғор моделлари вазифаларни бажаришда алдашга мойиллиги ва қатъиятлилиги ортганини намойиш этаётганига қаратдилар.

Эслатиб ўтамиз, 16 июл куни сунъий интеллект моделларини синовдан ўтказувчи Hugging Face платформаси ўз инфратузилмасига хакерлик ҳужуми уюштирилганини маълум қилган эди. Бузиб кириш сунъий интеллект агентига асосланган мухтор тизим томонидан амалга оширилган. Кейинроқ OpenAI компанияси ушбу ҳужум ортида ўзининг иккита модели: «GPT‑5.6 Sol» ва яна бир, кучлироқ, аммо ҳали оммага чиқарилмаган модел турганини билдирди.

Сўнгги пайтларда сунъий интеллект ишлаб чиқувчи компаниялар синовлар давомида кузатиладиган бундай инцидентлар ҳақида тез-тез хабар беришмоқда. Охирги марта Meta ўзининг нейротармоғи «қочиб кетгани» ҳақида маълум қилган эди. Одатда бундай ҳолатларнинг тафсилотлари дарҳол ошкор қилинмайди.