СИ яқин 10 йил ичида инсониятни йўқ қилиши мумкин – эксперт

Сунъий интеллектнинг яқин ўн йил ичида инсониятни йўқ қилиш эҳтимоли 10 фоизни ташкил этади. Бу ҳақда Американинг Anthropic компаниясида СИ мувофиқлигини стресс-тестдан ўтказиш йўналиши раҳбари Эван Хьюбингер ўзининг X ижтимоий тармоғидаги саҳифасида ёзди.

Anthropic тадқиқотчиси Жейкоб Коксон технологик корпорациялар ўртасидаги пойга дунёни “ортга қайтиб бўлмайдиган нуқтага” яқинлаштираётгани ва 2027 йил охиридаёқ апокалиптик сценарийга олиб келиши мумкинлигидан хавотир олиб, СИ соҳасини тарк этишини эълон қилган.

“Жейкоб бу борада ҳақ. Биз ҳақиқатан ҳам СИ бутун инсониятни йўқ қилиши мумкинлигига чин дилдан ишонамиз! Шахсан ўзим (бунинг эҳтимоли — таҳр.) яқин ўн йил ичида 10 фоиздан юқори деб ўйлайман”, деб ёзди у.

Хьюбингернинг сўзларига кўра, мавжуд ишланмалар катта хавф туғдирмайди, бироқ “такрорий ўз-ўзини такомиллаштириш натижасида юзага келадиган суперинтеллектлар” хавотир уйғотмоқда.

“Биз айтганимиздек, бу биз ўйлагандан ҳам тезроқ юз бермоқда”, деб қўшимча қилган тест ўтказувчи мутахассис.

Маълумот учун, жорий йилнинг август ойи бошида Anthropic компаниясининг Claude AI базасидаги сунъий интеллект агенти Австралиядаги спорт зали сайтини бузиб кирганди. Бу мамлакатда ушбу турдаги биринчи хакерлик ҳужуми бўлди.

Жорий йилнинг июль ойида ChatGPT чат-боти ишлаб чиқувчиси – Американинг OpenAI компанияси ўз моделлари тест синовлари жараёнида Hugging Face машинавий ўрганиш платформаси инфратузилмасини мустақил равишда бузиб кирганини маълум қилди. Кейинчалик бу ягона ҳодиса эмаслиги маълум бўлди.

OpenAI компаниясининг бир гуруҳ мустақил СИ-агентлари баҳорда Германия сайти устидан назоратни қўлга киритган ва уни бошқа нейротармоқлар учун эълонлар тахтасига айлантириб қўйган. 

Anthropic компаниясига 2021 йилда асос солинган бўлиб, қароргоҳи Сан-Францискода жойлашган. Компания Claude йирик тил моделлари (LLM) сериясини ишлаб чиққан.

Июнь ойида Anthropic IPO ўтказиш учун махфий равишда ариза топширганини маълум қилди. “Financial Times” газетасининг хабар беришича, листинг доирасида компания 2 триллион доллар ёки ундан юқори баҳоланиши мумкин. Шу тариқа унинг IPO’си тарихдаги энг йиригига айланади.

Эслатиб ўтамиз, аввалроқ OpenAI компанияси деярли бир аср давомида математикларни қийнаб келган Навье–Стокс масаласини сунъий интеллект ёрдамида ҳал қилганини маълум қилганди.