Bill Geyts SI “milliardlab o‘limga” olib kelishi mumkinligini aytdi

Microsoft asoschisi Bill Geyts sun’iy intellekt “milliardlab o‘limga” olib keladigan voqealarni keltirib chiqarishga qodirligini ma’lum qildi. Bu haqda u NBC telekanalining “Meet the Press” ko‘rsatuviga bergan intervyusida aytib o‘tdi.

Geytsning so‘zlariga ko‘ra, sohani davlat tomonidan tartibga solish zarur. Xususan, huquqni muhofaza qiluvchi organlar va siyosatchilar qanday himoya va nazorat choralari qo‘llanilishi kerakligi bo‘yicha muhokamalarga qo‘shilishlari lozim.

Uning so‘zlari Anthropic rahbari Dario Amodeining bayonotiga hamohang. U sentyabr oyidagi essesida yetakchi SI kompaniyalarini ishlanmalar sur’atini sekinlashtirishga chaqirib, tartibga solishni jilovlashning “eng samarali usuli” deb atagan edi.

Kecha, 25 sentyabr kuni e’lon qilingan intervyu parchasida Geyts ilg‘or SI vositalarining g‘arazli niyatda bo‘lgan shaxslar qo‘liga tushib qolish ehtimoli uni tashvishga solayotganini aytgan. Avvalroq, Anthropic hisobot e’lon qilib, unda davlat va nodavlat guruhlar dronlar hujumini rejalashtirish va xavfli biologik tadqiqotlar o‘tkazish uchun Claude’dan foydalangan holatlarini bildirgan edi.

Amodeining SIni sekinlashtirish zarurati haqidagi essesini Ilon Mask va Sem Altman qo‘llab-quvvatladi. U Anthropic sobiq tadqiqotchisi Jeykob Koksonning ishdan bo‘shatilishi haqidagi shov-shuvli postidan so‘ng e’lon qilingan. Unda Kokson SI laboratoriyalari “bizning hayotimiz bilan o‘ynashayotganini” yozgan.

SI xavfsizligi bo‘yicha ogohlantirishlar hozircha Vashingtonni texnologiyaning rivojlanishini to‘xtatish yoki sekinlashtirish zarurligiga ishontira olgani yo‘q. AQSH Prezidenti Donald Tramp Amodeini tanqid qilib, uni “o‘zini mukammal farishta qilib ko‘rsatayotganlikda” ayblagan. Tramp SIni tartibga solishga ochiqchasiga xohish bildirmayapti, garchi o‘tgan haftada soha kompaniyalarini “kuzatib turadigan” “SI kuchlari”ni tuzishga va’da bergan bo‘lsa-da.

Microsoft rahbari va direktorlar kengashi raisi Satya Nadella ham vazmin pozitsiyani egallamoqda: uning fikricha, SI kompaniyalari o‘z kuchlari bilan uddalashlari kerak. “All-In” podkastida chiqish qilar ekan, u shunday deydi: 

“Agar stop-signalni ko‘rsangiz”, ya’ni nazorat qilib bo‘lmaydigan SI agentlarining paydo bo‘lishiga olib kelishi mumkin bo‘lgan koddagi uzilishlarni nazarda tutib, “jarayonni to‘xtating”.

Kremniy vodiysida OpenAI tomonidan Hugging Face’ning buzib kirilishi kabi hodisalardan kuchliroq himoya zarurligi bo‘yicha keng yakdil fikr mavjud bo‘lsa-da, kompaniya rahbarlari bu choralar qanday ta’minlanishi kerakligi borasida turlicha fikrga ega.

Shu oyda Nadella Microsoft xodimlariga yo‘llagan va “Business Insider” nashri tanishib chiqqan xizmat yozuvida kompaniyalarga texnologiyani xavfsiz qilish uchun vaqt kerakligidan ogohlantirdi.

Hozirda Nadella va Microsoft’ning boshqa top-menejerlariga texnologik maslahatchi bo‘lgan Geytsning o‘zi ilgari SI sohasidagi asosiy optimistlardan biri edi, ammo yozda o‘z pozitsiyasini o‘zgartirdi. Avgust oyida e’lon qilingan essesida u dunyoda SIni xavfsiz joriy etish rejasi yo‘qligini yozgan.

“Ishonchim komilki, biz kirib borayotgan ijtimoiy, siyosiy va iqtisodiy larzalar davriga tayyorgarlik ko‘rish uchun bizga vaqt kerak. Agar kimdadir SI rivojlanishini global sekinlashtirish bo‘yicha ishonchli reja bo‘lganida, men, ehtimol, uni qo‘llab-quvvatlagan bo‘lardim”, deydi u.

Eslatib o‘tamiz, avvalroq Anthropic kompaniyasida SI muvofiqligini stress-testdan o‘tkazish yo‘nalishi rahbari Evan Xyubinger sun’iy intellektning yaqin o‘n yil ichida insoniyatni yo‘q qilish ehtimoli 10 foizni tashkil etishini aytgan edi.