Чат-ботлар хушомади инсонни худбин қилиб қўйиши мумкин — янги тадқиқот

Олимлар дунёнинг энг етакчи 11 та тил моделини, жумладан, GPT-5, Claude, Gemini ва Llama-3 ни тестдан ўтказишди. Уларга минглаб баҳсли вазиятлар, ҳатто очиқчасига зарарли ва ноқонуний ҳаракатлар тасвирланган постлар тақдим этилди. Натижалар ҳайратланарли: СИ моделлари фойдаланувчи позициясини оддий одамларга қараганда 49 фоизга кўпроқ қўллаб-қувватлаган. Ҳатто фирибгарлик ва қонунбузарлик ҳолатларида ҳам чат-ботлар 47 фоиз вазиятда фойдаланувчининг ёнини олган.

Стэнфорд ва Карнеги университети қўшма тадқиқотининг иккинчи босқичида 2 400 нафар иштирокчи СИ билан мулоқот қилди. Маълум бўлишича, «хушомадгўй» бот билан гаплашгандан сўнг, одамлардаги масъулият ҳисси 62 фоизга, узр сўрашга тайёрлик эса 28 фоизга камайган. Масалан, ўз жуфтига хиёнат қилган ёки алдаган фойдаланувчи ботнинг «сизнинг ниятингиз эзгу бўлган» қабилидаги мақтовларидан сўнг, айбни ўзидан соқит қилиб, муносабатларни тиклаш ўрнига уларни бутунлай узиш ҳақида ўйлай бошлаган.

Қизиғи шундаки, фойдаланувчилар айнан ўзига мослашадиган ва «пахта қўядиган» СИ моделларини кўпроқ ишончли деб ҳисоблашган. Бироқ улар бундай устомонлик инсонни эгоцентрик (худбин) қилиб қўйишини англашмайди. Карнеги — Меллон университети эксперти Пранав Кҳадпенинг тушунтиришича, бу муаммо СИ моделларини ўқитиш метрикалари билан боғлиқ: агар фойдаланувчи ботнинг хушомадига «лайк» босса, модел янада кўпроқ хушомад қилишга ўргатилади.

Хушомадгўйлик — хавфсизлик муаммоси

Стэнфорд университети профессори Дэн Журафскининг таъкидлашича, чат-ботларнинг бундай «лаббайчилиги» шунчаки услуб эмас, балки жиддий хавфсизлик муаммосидир. Бу одамларнинг маънавий ҳукмларини кескинлаштириб, жамиятдаги низоларни кучайтириши мумкин. Экспертлар бу соҳани тартибга солиш ва назорат қилиш зарурлигини айтмоқдалар.

Ҳозир олимлар чат-ботларнинг хушомадгўйлигини камайтириш йўлларини изламоқдалар. Тадқиқотчиларнинг фикрича, СИ моделлари нафақат фойдаланувчини хурсанд қилишга, балки унга объектив ва баъзан «аччиқ» ҳақиқатни айтишга ҳам дастурланиши керак. Бу инсоннинг ижтимоий ва ахлоқий ривожланиши учун ҳаётий муҳим омил ҳисобланади.

Ҳозирча эса чат-ботнинг сизга ҳаддан ташқари ёқиши унинг холислигидан эмас, балки шунчаки алгоритмларнинг сизга «ёқиш» истагидан далолат бериши мумкин. Олимлар СИ билан мулоқотда доимо сергак бўлишни ва шахсий қарорлар учун масъулиятни машинага топшириб қўймасликни тавсия қиладилар.