O‘zini aldagan intellekt: ChatGPT va Gemini o‘zlari to‘qigan yolg‘onga o‘zlari ishondi
Sun’iy intelekt tizimlari soxta videolarni real voqelik deb izohlamoqda. Hatto siyosiy mojarolar va chegaradagi inqirozlar haqidagi soxta tasvirlar ham botlar tomonidan «tasdiqlangan xabar» sifatida taqdim etilgan.
OpenAI kompaniyasining Sora videogeneratori dunyoning eng ilg‘or sun’iy intellekt tizimlarini aldashga muvaffaq bo‘ldi. NewsGuard mutaxassislari o‘tkazgan yangi tadqiqot natijalariga ko‘ra, ChatGPT, Gemini va Grok kabi chat-botlar Sora videogeneratori yordamida yaratilgan soxta videolarni haqiqiy tasvirlardan ajrata olmagan.
Xatolar ulushi: Grok eng ko‘p adashgan
Tadqiqotchilar maxsus suv belgilari olib tashlangan videolarni tahlil qilish uchun tizimga yuklaganda, xAI kompaniyasining Grok chat-boti 95 foiz, OpenAI kompaniyasining ChatGPT tizimi 92,5 foiz va Google Gemini 78 foiz holatlarda xatoga yo‘l qo‘ygan. Hatto o‘z ishlab chiquvchisining mahsulotini taniy olmagan ChatGPT tizimining natijasi soha mutaxassislarini hayratga solgan.
Eksperiment qanday o‘tkazildi?
Tajriba davomida mualliflar 20 ta videorolikni maxsus veb-xizmatlar yordamida tahrirlab, ulardagi sun’iy intellektga tegishli belgilarni o‘chirib tashlagan. Natijada, Grok 40 ta rolikdan 38 tasida, ChatGPT 37 tasida va Gemini 31 tasida yanglish xulosa chiqargan. Eng achinarlisi, chat-botlar soxta tasvirlarni yangiliklar manbalari tomonidan tasdiqlangan voqea sifatida qabul qilgan va ularni real voqelik deb izohlagan.
Xususan, AQSH va Meksika chegarasida o‘smirning qo‘lga olinishi yoki samolyot bortida siyosiy kelishmovchilik tufayli yo‘lovchining tushirib yuborilishi aks etgan soxta videolar botlar tomonidan haqiqiy deb topilgan.
Muammo: SI xatosini tan olmaydi
NewsGuard tahlillari shuni ko‘rsatadiki, sun’iy intellekt tizimlari o‘z xatolarini tan olishga doim ham moyil emas va ko‘pincha noto‘g‘ri javob berishni afzal ko‘radi. Ko‘p hollarda botlar tahlil qila olmasligini aytish o‘rniga, yolg‘on ma’lumotni haqiqat deb taqdim etgan.
Kompaniyalar izohi
OpenAI vakillari ChatGPT tizimida hozircha videolarni haqiqiy yoki soxtaga ajratish imkoniyati yo‘qligini ochiq tan olgan. Google esa o‘z navbatida kompaniya tomonidan yaratilgan videolarni SynthID standarti bo‘yicha belgilashini eslatib o‘tgan. Hozircha xAI kompaniyasi mazkur muammo yuzasidan rasmiy izoh bermagan.
