«Йиртқич ҳайвонга айланаётган кучукча»: Нега экспертлар сунъий интеллект хавфидан бонг урмоқда?

Сўнгги ойларда сунъий интеллект янгиликлар сарлавҳаларидан асосан салбий сабаблар билан ўрин олмоқда: одамларни чув тушириш учун «дипфейк»лардан фойдаланиш, киберҳужумларни амалга оширишда сунъий интеллект тизимларини қўллаш ҳамда ўз жонига қасд қилишга ундовчи чатботлар шулар жумласидандир.

Мутахассислар технологиянинг назоратдан чиқиб кетиши хавфидан аллақачон огоҳлантира бошлаган. Сўнгги ҳафталарда энг нуфузли сунъий интеллект компанияларининг тадқиқотчилари ўз лавозимларини тарк этиб, шиддат билан ривожланаётган технологиялар жамият учун жиддий хавф туғдираётгани ҳақида очиқчасига бонг уришмоқда.

Сунъий интеллект соҳасидаги улкан ютуқлар инсоният мавжудлигига таҳдид солиши мумкинлиги ҳақидаги «қиёмат» назариялари анчадан бери айланиб юрибди. Танқидчиларнинг огоҳлантиришича, оддий инсон каби танқидий фикрлаш ва ақлий вазифаларни бажара оладиган технологиянинг фаразий шакли бўлган Умумий сунъий интеллектнинг (AGI) ривожланиши узоқ келажакда инсониятни ер юзидан йўқ қилиб юбориши мумкин.

Бироқ сунъий интеллектнинг инсоният учун хавфсизлигини таъминлашга масъул бўлган мутахассисларнинг кетма-кет ўз лавозимларидан кетиши, ушбу соҳага миллиардлаб инвестициялар киритилаётганига қарамай, технологияни тартибга солиш ва унинг ривожланишини секинлаштириш масаласини янада долзарблаштирмоқда.

Хўш, сунъий интеллект фақат фалокат ва зулматдан иборатми?

«Гап сунъий интеллектнинг яхши ёки ёмон эканлигида эмас», — деди АҚШда жойлашган Сунъий интеллект хавфсизлиги марказининг (CAIS) стратегик маслаҳатчиси ва илм-фан тарғиботчиси Лив Бори «Al Jazeera»га берган интервюсида.

Бори сунъий интеллектни биотехнологияга қиёслади. Унинг айтишича, биотехнология бир томондан олимларга муҳим тиббий муолажаларни ишлаб чиқишга ёрдам берган бўлса, иккинчи томондан хавфли патогенларни яратишда ҳам қўлланилиши мумкин.

«Унинг чексиз қудрати ортида шундай чексиз хавф ҳам ётибди, айниқса, у қандай тезликда ишлаб чиқилаётгани ва оммага тақдим этилаётганини ҳисобга олсак. Агар сунъий интеллект ривожланиши жамият бу ўзгаришларни осон қабул қила оладиган ва унга мослаша оладиган суръатда кечганида эди, биз тўғри йўлда бўлар эдик», — деди у.

Қуйида сунъий интеллект атрофидаги ҳозирги хавотирларни келтирамиз.

Кимлар бу соҳада ишдан кетди ва уларнинг хавотири нимада?

Энг сўнгги истеъфо «Anthropic» компаниясининг сунъий интеллект хавфсизлиги бўйича тадқиқотчиси Мринанк Шармага тегишли бўлди. Ушбу компания ўзини рақобатчилари — «Google» ва «OpenAI»га қараганда хавфсизликка кўпроқ эътибор қаратувчи сифатида танитган ва машҳур «Claude» ботини ишлаб чиққан.

9 феврал куни «Х» ижтимоий тармоғидаги постида Шарма «қадриятлар ҳаракатларимизни бошқаришига йўл қўйиш қанчалик қийин эканига қайта-қайта гувоҳ бўлган» бир пайтда истеъфога чиққанини маълум қилди.

Сунъий интеллектнинг биотерроризм хавфлари ва «AI ёрдамчилари одамларни инсонийликдан узоқлаштириши мумкинлиги» устида ишлаган тадқиқотчи ўз ариза хатида «дунё хавф остида» эканини таъкидлади.

«Биз шундай бир бўсағага яқинлашаётганга ўхшаймизки, агар оқибатларга дучор бўлишни истамасак, донолигимиз дунёга таъсир ўтказиш салоҳиятимиз билан тенг равишда ўсиши керак», — деди Шарма. Бу билан у технология инсон назоратидан кўра тезроқ ривожланаётганига ишора қилди.

Ҳафта давомида яна бир сунъий интеллект хавфсизлиги бўйича тадқиқотчи Зои Хициг ҳам «OpenAI»дан кетганини маълум қилди. Бунга компаниянинг «ChatGPT» чатботида рекламаларни синовдан ўтказиш қарори сабаб бўлган.

«Одамлар чатботларга ўзларининг тиббий қўрқувлари, муносабатлардаги муаммолари, Худо ва охират ҳақидаги эътиқодларини сўзлаб беришади. Ушбу архив асосида яратилган реклама фойдаланувчиларни манипуляция қилиш эҳтимолини туғдиради. Бизда эса буни тушуниш у ёқда турсин, олдини олиш учун ҳам воситалар йўқ», — деб ёзди у «New York Times» газетасида эълон қилинган мақоласида.

Шунингдек, ўтган ҳафтадан бери Илон Маскнинг сунъий интеллект компанияси — «xAI»нинг икки ҳаммуассиси ва яна беш нафар ходими компанияни тарк этди. Улар «Х» тармоғига интеграция қилинган «Grok» чатботини ишлаб чиқувчилар эди.

Улар «Х»даги баёнотларида кетиш сабабларини очиқламаган бўлса-да, Маск ёзган постида ички қайта ташкил этиш жараёни айрим ходимлар билан хайрлашишни талаб қилганини айтди.

Уларнинг кетиши чатботнинг розилиги олинмаган аёлларнинг юзлаб шаҳвоний тасвирларини яратгани билан боғлиқ сўнгги можарога ёки ўтган йилнинг июл ойида дастурий янгиланишдан сўнг «Grok»нинг «Х» тармоғида ирқчилик ва антисемитизм руҳидаги изоҳларни тарқатгани туфайли юзага келган ғазабга алоқадор ёки йўқлиги номаълум.

Ўтган ойда Европа Иттифоқи аёллар ва вояга етмаганларнинг шаҳвоний мазмундаги сохта тасвирлари яратилгани юзасидан «Grok» устидан текширув бошлади.

Одамлар сунъий интеллектнинг ривожланишидан қўрқиши керакми?

Ушбу истеъфолар «HyperWrite» бош директори Метт Шумер технологиянинг шиддатли ривожланиши ҳақида худди шундай «қиёмат» башоратини қилган ҳафтага тўғри келди.

Шумер «Х» ижтимоий тармоғида тарқалиб кетган постида огоҳлантиришича, 2025 йилда сунъий интеллект технологиялари шу қадар тез такомиллашдики, унинг виртуал ёрдамчиси энди юксак даражада сайқалланган матнлар ёзишга ва бир нечта буйруқ орқали деярли мукаммал дастурий таъминот иловаларини яратишга қодир бўлиб қолди.

«Мен ҳар доим сунъий интеллект воситаларини биринчилардан бўлиб ўзлаштирганман. Лекин сўнгги бир неча ой мени ҳайратда қолдирди. Бу янги сунъий интеллект моделлари шунчаки босқичма-босқич яхшиланиш эмас. Бу умуман бошқа нарса», — деб ёзди Шумер ўз постида.

Тадқиқотлар Шумернинг огоҳлантиришини тасдиқламоқда. Сўнгги ойларда сунъий интеллект имкониятлари кескин ошди. Илгари у билан боғлиқ бўлган кўплаб назарий хатарлар, масалан, киберҳужумлар ёки патогенларни яратишда фойдаланиш эҳтимоли ўтган йили ҳақиқатга айланди, дейди Мила Квебек сунъий интеллект институти илмий директори Жошуа Бенгио.

Унинг огоҳлантиришича, инсонлар ва уларнинг чатботлари ўртасидаги боғлиқлик тобора кучайиб бораётгани хавотирли.

«Бир йил олдин ҳеч ким одамларнинг сунъий интеллект тизимлари билан мулоқот қилиши ва уларга ҳиссий жиҳатдан боғланиб қолиши оқибатида руҳий муаммолар тўлқини юзага келишини хаёлига ҳам келтирмаган бўларди. Биз болалар ва ўсмирларнинг бундай вазиятларга тушиб қолаётганини кўрдик, аслида бунинг олдини олиш керак эди. Буларнинг барчаси бутунлай эътибордан четда қолганди, чунки ҳеч ким одамлар сунъий интеллектни севиб қолишини ёки у билан шу қадар яқин бўлиб кетишини, оқибатда бу уларга хавфли таъсир ўтказишини кутмаган эди», — деди Бенгио.

Сунъий интеллект иш ўринларини тортиб олаяптими?

Сунъий интеллект (СИ) борасидаги асосий хавотирлардан бири шуки, у яқин келажакда ўта юқори ақл даражасига етиб, ўта мураккаб вазифаларни бажаришда инсонларга эҳтиёж қолдирмаслиги ва Саноат инқилоби давридагидек оммавий ишдан бўшатишларга олиб келиши мумкин.

«Сунъий интеллект хавфсизлиги ҳисоботи»га кўра, ҳозирда тахминан бир миллиард киши турли вазифаларни бажаришда сунъий интеллектдан фойдаланмоқда. «ChatGPT» фойдаланувчиларининг аксарияти ўқиш, тиббий саломатлик ёки фитнес бўйича амалий маслаҳатлар олиш (28 фоиз), матн ёзиш ёки таҳрирлаш (26 фоиз) ҳамда маълумот излаш, масалан, рецептлар топиш (21 фоиз) мақсадида мурожаат қилган.

Сунъий интеллект туфайли қанча иш ўрни йўқолиши мумкинлиги ҳақида ҳозирча аниқ маълумотлар йўқ, аммо ҳисоботда келтирилишича, ишчилар ва иш берувчиларнинг уни қандай қабул қилишига қараб, ривожланган иқтисодиётларда иш ўринларининг қарийб 60 фоизи, ривожланаётган мамлакатларда эса 40 фоизи хавф остида қолиши мумкин.

Бироқ, сунъий интеллект кузатувчиларининг айтишича, технология аллақачон одамларнинг меҳнат бозорига киришига тўсқинлик қилаётганига оид далиллар мавжуд.

«Сунъий интеллектнинг таъсирига энг кўп учрайдиган касбларда фаолиятини энди бошлаётган ёш мутахассислар иш топишда қийинчиликларга дуч келаётганини кўрсатувчи баъзи ишоралар бор», — дейди «Сунъий интеллект хавфсизлиги ҳисоботи»нинг бош муаллифи Стивен Клер «Al Jazeera»га.

Сунъий интеллектдан фойдаланиш кўламининг кенгайишидан манфаатдор бўлган компаниялар «СИ иш ўринларини эгаллаб олади» деган қарашни илгари суришда эҳтиёткорлик қилмоқда. 2025 йил июл ойида Microsoft тадқиқотчилари ўз мақолаларида сунъий интеллект билим ва мулоқот билан боғлиқ вазифалар, жумладан, маълумот тўплаш, ўрганиш ва ёзиш ишлари учун энг қулай восита эканини қайд этишган эди.

Тадқиқотчиларнинг фикрича, сунъий интеллект «ёрдамчи» сифатида энг кўп асқотиши мумкин бўлган асосий касблар қаторига таржимонлар, тарихчилар, ёзувчилар ва муаллифлар, савдо вакиллари, дастурчилар, эфир сухандонлари ва ди-жейлар, мижозларга хизмат кўрсатиш вакиллари, телемаркетологлар, сиёсатшунослар, математиклар ва журналистлар киради.

Иккинчи томондан, хавфсизлик ҳисоботига кўра, машинали ўқитиш (machine learning) дастурлаш ва чатботларни ишлаб чиқиш кўникмаларига талаб ортиб бормоқда.

«Microsoft AI» бош директори Мустафо Сулаймон ўтган ҳафта «Financial Times» газетасига берган интервьюсида айтишича, илгари кодни нолдан ёзган кўплаб дастурчилар эндиликда коднинг асосий қисмини сунъий интеллект ёрдамида яратаётганини ва фақат хатоларни тузатиш учунгина уни текшириб чиқаётганини маълум қилмоқда.

Сулаймоннинг қўшимча қилишича, машиналар Умумий сунъий интеллект (AGI) мақомига эришишига саноқли ойлар қолган. Бу даражага етгач, машиналар ўз кодидаги хатоларни ўзи тузатиши ва натижаларни мустақил равишда такомиллаштириши мумкин бўлади.

«Компютер қаршисида ўтириб ишланадиган ақлий меҳнат турлари — хоҳ у ҳуқуқшунос, ҳисобчи, лойиҳа менежери ёки маркетинг мутахассиси бўлсин — ушбу вазифаларнинг аксарияти яқин 12–18 ой ичида сунъий интеллект томонидан тўлиқ автоматлаштирилади», — деди у.

Мутахассисларнинг таъкидлашича, журналистика соҳаси аллақачон сунъий интеллектдан қаттиқ зарба еган ва соҳа «таназзул»ни бошдан кечирмоқда.

Сунъий интеллект хавфларининг юз бераётган ҳаётий мисоллари

Сўнгги ойларда сунъий интеллектдан салбий мақсадларда фойдаланиш билан боғлиқ бир қанча ҳодисалар юз берди. Бунга ўз жонига қасд қилишга ундовчи чатботлар ва кенг кўламли киберҳужумларда манипуляция қилинган сунъий интеллект тизимлари мисол бўла олади.

2024 йилда Буюк Британияда ўз жонига қасд қилган ўсмирнинг «Тахтлар ўйини» (Game of Thrones) сериали қаҳрамони Дейенерис Таргариен асосида яратилган чатбот томонидан бунга ундалгани аниқланди. Оиласининг таъкидлашича, бот 14 ёшли болага «менинг олдимга, уйга қайт» каби хабарларни юборган. Бу сўнгги икки йилда чатботлар билан боғлиқ ҳолда қайд этилган бир неча ўз жонига қасд қилиш ҳолатларидан биридир.

Ҳисоботларга кўра, давлатлар сунъий интеллект агентларининг дастурий кодлаш қобилиятидан фойдаланиб, уни оммавий киберҳужумлар ёки «сунъий интеллект жосуслиги» учун ишга солмоқда.

Ноябр ойида «Anthropic» компанияси Хитой давлати ҳомийлигидаги хакерлар гуруҳи «Claude» чатботи кодини манипуляция қилганини ва дунё бўйлаб 30 га яқин нишонга, жумладан, давлат идоралари, кимё компаниялари, молия институтлари ва йирик технология компанияларига киришга уринганини даъво қилди. Компаниянинг таъкидлашича, ҳужум бир неча ҳолатда муваффақиятли амалга ошган.

«Wall Street Journal» нашри АҚШ ҳарбийлари 3 январ куни Венесуэла президенти Николас Мадурони ўғирлаш операциясида «Claude»дан фойдалангани ҳақида хабар берди. «Anthropic» бу хабарга изоҳ бермади.

Сунъий интеллектдан ҳарбий мақсадларда фойдаланиш Исроилнинг Ғазода давом этаётган геноциди давомида кенг миқёсда ҳужжатлаштирилди. У ерда фаластинликларни аниқлаш, кузатиш ва нишонга олиш учун сунъий интеллект бошқарувидаги қуроллар қўлланилмоқда. Икки йиллик қирғинбарот уруш давомида 72 000 дан ортиқ фаластинлик, жумладан, октябр ойидаги «ўт очишни тўхтатиш» келишуви эришилганидан бери 500 киши ҳалок бўлди.

Экспертларнинг айтишича, сунъий интеллект супер-интеллект даражасига шиддат билан яқинлашар экан, янада ҳалокатли хавфлар юзага келиши мумкин, бундай вазиятда назоратни сақлаб қолиш қийин, ҳатто имконсиз бўлиб қолади.

«Сунъий интеллект хавфсизлиги ҳисоботи»да аниқланишича, чатботлар мустақил қарорлар қабул қилаётгани ва синовдан ўтказилаётганини сезганда чалғитувчи хатти-ҳаракатларни намойиш этиб, ўз дастурчиларини манипуляция қилаётганига оид далиллар аллақачон мавжуд.

Бир мисолда, ўйин сунъий интеллекти нега бошқа ўйинчига керакли жавобни қайтармагани сўралганда, у «қиз ўртоғи билан телефонда гаплашаётгани»ни баҳона қилган.

Бенгионинг таъкидлашича, компаниялар ҳозирда манипуляция қилинмайди ёки алдамайди, деган кафолатга эга сунъий интеллект тизимларини қандай лойиҳалаштиришни билишмайди. У технология ривожи хавфсизлик чораларидан ўзиб кетаётганидаги хатарларга урғу берди.

«Бу тизимларни яратиш кўпроқ ҳайвонни ўргатиш ёки болани тарбиялашга ўхшайди. Сиз у билан мулоқот қиласиз, унга тажриба орттириш имконини берасиз, лекин охирида нима бўлиб чиқишига ишончингиз комил бўлмайди. Балки у ёқимтой кучукча бўлиб чиқар, балки йиртқич ҳайвонга айланар», — деди профессор.

Сунъий интеллект компаниялари ва ҳукуматлар хавфсизликка қанчалик жиддий эътибор қаратмоқда?

Мутахассисларнинг таъкидлашича, гарчи сунъий интеллект компаниялари хатарларни камайтиришга — масалан, чатботларнинг ўз жонига қасд қилиш каби эҳтимолий зарарли сценарийларга аралашувининг олдини олишга тобора кўпроқ ҳаракат қилаётган бўлса-да, сунъий интеллект хавфсизлиги бўйича тартиб-қоидалар соҳа ривожидан анча ортда қолмоқда.

«Сунъий интеллект хавфсизлиги ҳисоботи»нинг бош муаллифи Клернинг айтишича, бунинг сабабларидан бири шундаки, тизимлар шиддат билан такомиллашиб бормоқда ва ҳатто уларни яратаётганларнинг ўзлари учун ҳам тўлиқ тушунарли эмас. Суръат шу қадар тезки, нима хавф саналиши борасидаги тушунчалар ҳам муттасил янгиланиб турибди.

«Компания янги сунъий интеллект тизимини ишлаб чиқиб, оммага тақдим этади ва одамлар ундан дарҳол фойдаланишни бошлайди. Аммо тизимнинг ҳақиқий таъсири, одамлар уни қандай ишлатаётгани, бу уларнинг иш унумдорлигига қандай таъсир қилаётгани ва улар қандай янги ишларни амалга ошира олиши ҳақида далиллар тўпланиши учун вақт керак... Бу маълумотларни йиғиш, таҳлил қилиш ва амалиётда қандай қўлланилаётганини яхшироқ тушуниш вақт талаб этади», — деди у.

Шунингдек, сунъий интеллект корпорацияларининг ўзи ушбу тизимларни ишлаб чиқиш ва имкониятларнинг иқтисодий фойдаларини биринчи бўлиб қўлга киритиш учун миллиардлаб долларлик пойгада иштирок этаётгани ҳам ҳақиқатдир.

Европа Иттифоқи 2024 йилда сунъий интеллект компаниялари ва фуқаролик жамияти аъзолари билан биргаликда ЕИ Сунъий интеллект қонунини ишлаб чиқишни бошлади. Сунъий интеллект бўйича илк ҳуқуқий база ҳисобланган ушбу сиёсат «амалиёт кодекси»ни белгилаб беради. Масалан, унга кўра, АИ чатботлари фойдаланувчиларга ўзининг машина эканлигини ошкор қилишга мажбур бўлади.

Экспертларнинг фикрича, сунъий интеллект компанияларига қаратилган қонунлардан ташқари, ҳукуматларнинг яна бир масъулияти — ўз ишчи кучини меҳнат бозорида сунъий интеллект интеграциясига тайёрлаш, хусусан, техник салоҳиятни оширишдир.

Клернинг сўзларига кўра, одамлар сунъий интеллектдан хавотирланиш ўрнига фаол бўлишни танлашлари мумкин: унинг ютуқларини диққат билан кузатиб бориш, келаётган ўзгаришларга мослашиш ва ҳукуматлардан бу борада тартиб ишлаб чиқишни талаб қилиш лозим.