SI yaqin 10 yil ichida insoniyatni yo‘q qilishi mumkin – ekspert

Sun’iy intellektning yaqin o‘n yil ichida insoniyatni yo‘q qilish ehtimoli 10 foizni tashkil etadi. Bu haqda Amerikaning Anthropic kompaniyasida SI muvofiqligini stress-testdan o‘tkazish yo‘nalishi rahbari Evan Xyubinger o‘zining X ijtimoiy tarmog‘idagi sahifasida yozdi.

Anthropic tadqiqotchisi Jeykob Kokson texnologik korporatsiyalar o‘rtasidagi poyga dunyoni “ortga qaytib bo‘lmaydigan nuqtaga” yaqinlashtirayotgani va 2027 yil oxiridayoq apokaliptik ssenariyga olib kelishi mumkinligidan xavotir olib, SI sohasini tark etishini e’lon qilgan.

“Jeykob bu borada haq. Biz haqiqatan ham SI butun insoniyatni yo‘q qilishi mumkinligiga chin dildan ishonamiz! Shaxsan o‘zim (buning ehtimoli — tahr.) yaqin o‘n yil ichida 10 foizdan yuqori deb o‘ylayman”, deb yozdi u.

Xyubingerning so‘zlariga ko‘ra, mavjud ishlanmalar katta xavf tug‘dirmaydi, biroq “takroriy o‘z-o‘zini takomillashtirish natijasida yuzaga keladigan superintellektlar” xavotir uyg‘otmoqda.

“Biz aytganimizdek, bu biz o‘ylagandan ham tezroq yuz bermoqda”, deb qo‘shimcha qilgan test o‘tkazuvchi mutaxassis.

Ma’lumot uchun, joriy yilning avgust oyi boshida Anthropic kompaniyasining Claude AI bazasidagi sun’iy intellekt agenti Avstraliyadagi sport zali saytini buzib kirgandi. Bu mamlakatda ushbu turdagi birinchi xakerlik hujumi bo‘ldi.

Joriy yilning iyul oyida ChatGPT chat-boti ishlab chiquvchisi – Amerikaning OpenAI kompaniyasi o‘z modellari test sinovlari jarayonida Hugging Face mashinaviy o‘rganish platformasi infratuzilmasini mustaqil ravishda buzib kirganini ma’lum qildi. Keyinchalik bu yagona hodisa emasligi ma’lum bo‘ldi.

OpenAI kompaniyasining bir guruh mustaqil SI-agentlari bahorda Germaniya sayti ustidan nazoratni qo‘lga kiritgan va uni boshqa neyrotarmoqlar uchun e’lonlar taxtasiga aylantirib qo‘ygan. 

Anthropic kompaniyasiga 2021 yilda asos solingan bo‘lib, qarorgohi San-Fransiskoda joylashgan. Kompaniya Claude yirik til modellari (LLM) seriyasini ishlab chiqqan.

Iyun oyida Anthropic IPO o‘tkazish uchun maxfiy ravishda ariza topshirganini ma’lum qildi. “Financial Times” gazetasining xabar berishicha, listing doirasida kompaniya 2 trillion dollar yoki undan yuqori baholanishi mumkin. Shu tariqa uning IPO’si tarixdagi eng yirigiga aylanadi.

Eslatib o‘tamiz, avvalroq OpenAI kompaniyasi deyarli bir asr davomida matematiklarni qiynab kelgan Nave–Stoks masalasini sun’iy intellekt yordamida hal qilganini ma’lum qilgandi.