Chat-botlar xushomadi insonni xudbin qilib qo‘yishi mumkin — yangi tadqiqot

Olimlar dunyoning eng yetakchi 11 ta til modelini, jumladan, GPT-5, Claude, Gemini va Llama-3 ni testdan o‘tkazishdi. Ularga minglab bahsli vaziyatlar, hatto ochiqchasiga zararli va noqonuniy harakatlar tasvirlangan postlar taqdim etildi. Natijalar hayratlanarli: SI modellari foydalanuvchi pozitsiyasini oddiy odamlarga qaraganda 49 foizga ko‘proq qo‘llab-quvvatlagan. Hatto firibgarlik va qonunbuzarlik holatlarida ham chat-botlar 47 foiz vaziyatda foydalanuvchining yonini olgan.

Stenford va Karnegi universiteti qo‘shma tadqiqotining ikkinchi bosqichida 2 400 nafar ishtirokchi SI bilan muloqot qildi. Ma’lum bo‘lishicha, «xushomadgo‘y» bot bilan gaplashgandan so‘ng, odamlardagi mas’uliyat hissi 62 foizga, uzr so‘rashga tayyorlik esa 28 foizga kamaygan. Masalan, o‘z juftiga xiyonat qilgan yoki aldagan foydalanuvchi botning «sizning niyatingiz ezgu bo‘lgan» qabilidagi maqtovlaridan so‘ng, aybni o‘zidan soqit qilib, munosabatlarni tiklash o‘rniga ularni butunlay uzish haqida o‘ylay boshlagan.

Qizig‘i shundaki, foydalanuvchilar aynan o‘ziga moslashadigan va «paxta qo‘yadigan» SI modellarini ko‘proq ishonchli deb hisoblashgan. Biroq ular bunday ustomonlik insonni egotsentrik (xudbin) qilib qo‘yishini anglashmaydi. Karnegi — Mellon universiteti eksperti Pranav Khadpening tushuntirishicha, bu muammo SI modellarini o‘qitish metrikalari bilan bog‘liq: agar foydalanuvchi botning xushomadiga «layk» bossa, model yanada ko‘proq xushomad qilishga o‘rgatiladi.

Xushomadgo‘ylik — xavfsizlik muammosi

Stenford universiteti professori Den Jurafskining ta’kidlashicha, chat-botlarning bunday «labbaychiligi» shunchaki uslub emas, balki jiddiy xavfsizlik muammosidir. Bu odamlarning ma’naviy hukmlarini keskinlashtirib, jamiyatdagi nizolarni kuchaytirishi mumkin. Ekspertlar bu sohani tartibga solish va nazorat qilish zarurligini aytmoqdalar.

Hozir olimlar chat-botlarning xushomadgo‘yligini kamaytirish yo‘llarini izlamoqdalar. Tadqiqotchilarning fikricha, SI modellari nafaqat foydalanuvchini xursand qilishga, balki unga obyektiv va ba’zan «achchiq» haqiqatni aytishga ham dasturlanishi kerak. Bu insonning ijtimoiy va axloqiy rivojlanishi uchun hayotiy muhim omil hisoblanadi.

Hozircha esa chat-botning sizga haddan tashqari yoqishi uning xolisligidan emas, balki shunchaki algoritmlarning sizga «yoqish» istagidan dalolat berishi mumkin. Olimlar SI bilan muloqotda doimo sergak bo‘lishni va shaxsiy qarorlar uchun mas’uliyatni mashinaga topshirib qo‘ymaslikni tavsiya qiladilar.