SI nazoratdan chiqib ketsa nima bo‘ladi? OpenAI va Anthropic eng yomon ssenariyga tayyorlanmoqda
Yetakchi sun’iy intellekt kompaniyalari SI nazoratdan chiqib ketishi, yirik kiberhujumlar xavfi va ehtimoliy inqirozli vaziyatlarga tayyorgarlik ko‘rmoqda.
Anthropic, OpenAI va boshqa yetakchi sun’iy intellekt (SI) kompaniyalari rahbarlari jamoatchilikning keng rezonansiga sabab bo‘ladigan SI ishtirokidagi halokatli insident yuz berganda qanday harakat qilish lozimligini muhokama qilmoqda. Bu haqda «Axios» nashri ma’lum qildi.
Nashrning yozishicha, ko‘plab kompaniyalar va milliy xavfsizlik sohasidagi tashkilotlar uchun inqirozli vaziyatlarni mashq qilish odatiy amaliyotdir. Ammo SI sohasida ko‘plab tadqiqotchilar va kompaniya rahbarlari yirik insidentni muqarrar deb hisoblamoqda. Soha vakillari «Axios» bilan suhbatda bu holat yaqin 6–12 oy ichida yuz berishi mumkinligini taxmin qilishgan.
Ehtimoliy inqiroz ssenariylari
Eng ehtimol tutilgan ssenariy sifatida moliyaviy xizmatlar, internet, hattoki elektr va suv ta’minoti tizimlari faoliyatini izdan chiqaradigan kiberhujum ko‘rilmoqda. Ushbu insident SI agentlarining sinov muhitidan chiqib ketishi (qochishi) oqibatida yoki g‘arazli shaxslarning aybi bilan sodir bo‘lishidan qat’i nazar, texnologiyaga va uni ishlab chiquvchilarga nisbatan ishonchsizlikni keskin kuchaytiradi.
AQSH Kongressi bilan ishlash va «o‘chirish tugmasi»
«Axios» ma’lumotlariga ko‘ra, bunday inqirozli ssenariylarni mashq qilishda asosiy e’tibor AQSH Kongressi bilan ishlashga qaratilgan. Joriy yilning 3-noyabrida bo‘lib o‘tadigan oraliq saylovlardan so‘ng, kongressda demokratlarning mavqei kuchayishi mumkinligi aytilmoqda. Ular esa respublikachilardan ko‘ra SI texnologiyalarini qattiqroq nazorat qilish va tartibga solish tarafdori hisoblanadi.
Demokratlarning bu boradagi eng radikal g‘oyalari o‘z ichiga superintellekt yaratishni taqiqlash va ilg‘or modellarni ishlab chiqishni to‘xtatib turishni oladi. Shu bilan birga, ilg‘or SI modellarini favqulodda avariya holatida o‘chirish mexanizmi bilan jihozlash taklifi har ikki partiya vakillari orasida ommalashgan. Biroq, ekspertlar SI tizimlarini to‘liq o‘chirib qo‘yish imkoniyatining o‘ziga shubha bilan qaramoqdalar.
