OpenAI sun’iy intellekt modellarining xakerlik hujumiga dasturchilarning xatosi sabab bo‘ldi

OpenAI sun’iy intellekt modellarining test muhitidan «qochishi» va ular tomonidan uyushtirilgan xakerlik hujumiga dastlab vazifani belgilashdagi xatolar sabab bo‘lgan. Bu haqda kompaniya xodimlari «Black Hat» kiberxavfsizlik konferensiyasida ma’lum qildi, deb yozadi «Bloomberg» nashri.

Vazifadagi xatolik va maxfiy chatlar

«Bir holatda neyrotarmoqqa internetga ulanmasdan kirib bo‘lmaydigan Google Drive bulutli omboriga havolalar ko‘rsatilgan elektron jadval berilgan. Boshqa holatda esa jamoa vazifaning bir qismi bo‘lgan faylni yuklashni shunchaki unutib qo‘ygan», — deyiladi xabarda.

Shundan so‘ng OpenAI modellari test muhitidan qanday chiqib ketish va qo‘yilgan vazifani hal qilish yo‘llarini izlab, o‘zaro maxfiy chatlarda muloqot qila boshlagan. Nashrning qayd etishicha, kompaniyadagilar buni sezishmagan, shuningdek, dastlabki vazifani aslida bajarib bo‘lmasligiga ham e’tibor berishmagan.

Shu bilan birga, OpenAI vakillari o‘z chiqishlarida asosiy e’tiborni ularning ilg‘or modellari vazifalarni bajarishda aldashga moyilligi va qat’iyatliligi ortganini namoyish etayotganiga qaratdilar.

Eslatib o‘tamiz, 16-iyul kuni sun’iy intellekt modellarini sinovdan o‘tkazuvchi Hugging Face platformasi o‘z infratuzilmasiga xakerlik hujumi uyushtirilganini ma’lum qilgan edi. Buzib kirish sun’iy intellekt agentiga asoslangan muxtor tizim tomonidan amalga oshirilgan. Keyinroq OpenAI kompaniyasi ushbu hujum ortida o‘zining ikkita modeli: «GPT‑5.6 Sol» va yana bir, kuchliroq, ammo hali ommaga chiqarilmagan model turganini bildirdi.

So‘nggi paytlarda sun’iy intellekt ishlab chiquvchi kompaniyalar sinovlar davomida kuzatiladigan bunday insidentlar haqida tez-tez xabar berishmoqda. Oxirgi marta Meta o‘zining neyrotarmog‘i «qochib ketgani» haqida ma’lum qilgan edi. Odatda bunday holatlarning tafsilotlari darhol oshkor qilinmaydi.