Билл Гейтс СИ “миллиардлаб ўлимга” олиб келиши мумкинлигини айтди

Microsoft асосчиси Билл Гейтс сунъий интеллект “миллиардлаб ўлимга” олиб келадиган воқеаларни келтириб чиқаришга қодирлигини маълум қилди. Бу ҳақда у NBC телеканалининг “Meet the Press” кўрсатувига берган интервьюсида айтиб ўтди.

Гейтснинг сўзларига кўра, соҳани давлат томонидан тартибга солиш зарур. Хусусан, ҳуқуқни муҳофаза қилувчи органлар ва сиёсатчилар қандай ҳимоя ва назорат чоралари қўлланилиши кераклиги бўйича муҳокамаларга қўшилишлари лозим.

Унинг сўзлари Anthropic раҳбари Дарио Амодеининг баёнотига ҳамоҳанг. У сентябрь ойидаги эссесида етакчи СИ компанияларини ишланмалар суръатини секинлаштиришга чақириб, тартибга солишни жиловлашнинг “энг самарали усули” деб атаган эди.

Кеча, 25 сентябрь куни эълон қилинган интервью парчасида Гейтс илғор СИ воситаларининг ғаразли ниятда бўлган шахслар қўлига тушиб қолиш эҳтимоли уни ташвишга солаётганини айтган. Аввалроқ, Anthropic ҳисобот эълон қилиб, унда давлат ва нодавлат гуруҳлар дронлар ҳужумини режалаштириш ва хавфли биологик тадқиқотлар ўтказиш учун Claude’дан фойдаланган ҳолатларини билдирган эди.

Амодеининг СИни секинлаштириш зарурати ҳақидаги эссесини Илон Маск ва Сэм Альтман қўллаб-қувватлади. У Anthropic собиқ тадқиқотчиси Жейкоб Коксоннинг ишдан бўшатилиши ҳақидаги шов-шувли постидан сўнг эълон қилинган. Унда Коксон СИ лабораториялари “бизнинг ҳаётимиз билан ўйнашаётганини” ёзган.

СИ хавфсизлиги бўйича огоҳлантиришлар ҳозирча Вашингтонни технологиянинг ривожланишини тўхтатиш ёки секинлаштириш зарурлигига ишонтира олгани йўқ. АҚШ Президенти Дональд Трамп Амодеини танқид қилиб, уни “ўзини мукаммал фаришта қилиб кўрсатаётганликда” айблаган. Трамп СИни тартибга солишга очиқчасига хоҳиш билдирмаяпти, гарчи ўтган ҳафтада соҳа компанияларини “кузатиб турадиган” “СИ кучлари”ни тузишга ваъда берган бўлса-да.

Microsoft раҳбари ва директорлар кенгаши раиси Сатья Наделла ҳам вазмин позицияни эгалламоқда: унинг фикрича, СИ компаниялари ўз кучлари билан уддалашлари керак. “All-In” подкастида чиқиш қилар экан, у шундай дейди: 

“Агар стоп-сигнални кўрсангиз”, яъни назорат қилиб бўлмайдиган СИ агентларининг пайдо бўлишига олиб келиши мумкин бўлган коддаги узилишларни назарда тутиб, “жараённи тўхтатинг”.

Кремний водийсида OpenAI томонидан Hugging Face’нинг бузиб кирилиши каби ҳодисалардан кучлироқ ҳимоя зарурлиги бўйича кенг якдил фикр мавжуд бўлса-да, компания раҳбарлари бу чоралар қандай таъминланиши кераклиги борасида турлича фикрга эга.

Шу ойда Наделла Microsoft ходимларига йўллаган ва “Business Insider” нашри танишиб чиққан хизмат ёзувида компанияларга технологияни хавфсиз қилиш учун вақт кераклигидан огоҳлантирди.

Ҳозирда Наделла ва Microsoft’нинг бошқа топ-менежерларига технологик маслаҳатчи бўлган Гейтснинг ўзи илгари СИ соҳасидаги асосий оптимистлардан бири эди, аммо ёзда ўз позициясини ўзгартирди. Август ойида эълон қилинган эссесида у дунёда СИни хавфсиз жорий этиш режаси йўқлигини ёзган.

“Ишончим комилки, биз кириб бораётган ижтимоий, сиёсий ва иқтисодий ларзалар даврига тайёргарлик кўриш учун бизга вақт керак. Агар кимдадир СИ ривожланишини глобал секинлаштириш бўйича ишончли режа бўлганида, мен, эҳтимол, уни қўллаб-қувватлаган бўлардим”, дейди у.

Эслатиб ўтамиз, аввалроқ Anthropic компаниясида СИ мувофиқлигини стресс-тестдан ўтказиш йўналиши раҳбари Эван Хьюбингер сунъий интеллектнинг яқин ўн йил ичида инсониятни йўқ қилиш эҳтимоли 10 фоизни ташкил этишини айтган эди.