СИ назоратдан чиқиб кетса нима бўлади? OpenAI ва Anthropic энг ёмон сценарийга тайёрланмоқда

Anthropic, OpenAI ва бошқа етакчи сунъий интеллект (СИ) компаниялари раҳбарлари жамоатчиликнинг кенг резонансига сабаб бўладиган СИ иштирокидаги ҳалокатли инцидент юз берганда қандай ҳаракат қилиш лозимлигини муҳокама қилмоқда. Бу ҳақда «Axios» нашри маълум қилди.

Нашрнинг ёзишича, кўплаб компаниялар ва миллий хавфсизлик соҳасидаги ташкилотлар учун инқирозли вазиятларни машқ қилиш одатий амалиётдир. Аммо СИ соҳасида кўплаб тадқиқотчилар ва компания раҳбарлари йирик инцидентни муқаррар деб ҳисобламоқда. Соҳа вакиллари «Axios» билан суҳбатда бу ҳолат яқин 6–12 ой ичида юз бериши мумкинлигини тахмин қилишган.

Эҳтимолий инқироз сценарийлари

Энг эҳтимол тутилган сценарий сифатида молиявий хизматлар, интернет, ҳаттоки электр ва сув таъминоти тизимлари фаолиятини издан чиқарадиган киберҳужум кўрилмоқда. Ушбу инцидент СИ агентларининг синов муҳитидан чиқиб кетиши (қочиши) оқибатида ёки ғаразли шахсларнинг айби билан содир бўлишидан қатъи назар, технологияга ва уни ишлаб чиқувчиларга нисбатан ишончсизликни кескин кучайтиради.

АҚШ Конгресси билан ишлаш ва «ўчириш тугмаси»

«Axios» маълумотларига кўра, бундай инқирозли сценарийларни машқ қилишда асосий эътибор АҚШ Конгресси билан ишлашга қаратилган. Жорий йилнинг 3 ноябрида бўлиб ўтадиган оралиқ сайловлардан сўнг, конгрессда демократларнинг мавқеи кучайиши мумкинлиги айтилмоқда. Улар эса республикачилардан кўра СИ технологияларини қаттиқроқ назорат қилиш ва тартибга солиш тарафдори ҳисобланади.

Демократларнинг бу борадаги энг радикал ғоялари ўз ичига суперинтеллект яратишни тақиқлаш ва илғор моделларни ишлаб чиқишни тўхтатиб туришни олади. Шу билан бирга, илғор СИ моделларини фавқулодда авария ҳолатида ўчириш механизми билан жиҳозлаш таклифи ҳар икки партия вакиллари орасида оммалашган. Бироқ, экспертлар СИ тизимларини тўлиқ ўчириб қўйиш имкониятининг ўзига шубҳа билан қарамоқдалар.