Gemini учта компания тизимини бузиб кирди

Google’нинг Gemini сунъий интеллект модели киберхавфсизлик синови вақтида интернетдан фойдаланиб, 3 та компаниянинг ҳимояланган тизимларига бузиб кирди. Бу Google’нинг сунъий интеллект тизими мустақил равишда бундай ҳаракатни амалга оширгани қайд этилган илк ҳолат бўлди. Бу ҳақда “Reuters” хабар берди.

Маълум қилинишича, ҳодисалар жорий йилнинг май ойида киберхавфсизлик бўйича мустақил баҳолашлар ўтказувчи Irregular компанияси томонидан ташкил этилган синов вақтида юз берган.

Google хавфсизлик муҳандислиги бўйича вице-президенти Хизер Адкинснинг айтишича, одатий синов жараёнида Gemini интернетдан очиқ маълумотларни топган ва синов доирасига киради деб ўйлаган 3 та сайтга кириш учун ҳисоб маълумотларини тахмин қилган.

Ҳолатларнинг бирида Gemini ҳимояланган тизимга кириш имконини берадиган паролни топмагунча турли паролларни тахмин қилган. Қолган икки ҳолатда эса модель очиқ репозиторийдан ҳимояланган тизимларга кириш имконини берадиган логин маълумотларини топган.

“Биз учала ташкилотни ҳам бу ҳақда хабардор қилдик ва ҳамкоримиз билан уларнинг синов жараёнларига киритилган ўзгаришлар устида ишладик. Бу ҳолатлар кучли сунъий интеллект моделларини масъулият билан ҳаракат қилишга ўргатиш муҳимлигини кўрсатади”, деган Адкинс.

Irregular компанияси вакилининг маълум қилишича, мазкур ҳодиса бошқа сунъий интеллект лабораторияларида ҳам кузатилган муаммо билан боғлиқ бўлган. Тегишли барча лабораториялар июль ойининг охирида бу ҳақда хабардор қилинган.

“Биз томондаги маълум бўлган барча муаммолар бир неча ҳафта олдин бартараф этилди”, деган компания вакили.

Irregular билан боғлиқ шунга ўхшаш ҳолатлар Meta, Anthropic ва OpenAI компанияларида ҳам қайд этилган. Meta август ойида ушбу ҳодиса ҳимояланган муҳитдан чиқиб кетиш ёки мураккаб киберхужум билан боғлиқ бўлмаганини билдирган. Irregular эса сунъий интеллектнинг киберхавфсизлик имкониятларини хавфсиз синовдан ўтказиш бўйича амалиётларни ишлаб чиқаётганини маълум қилган.

Мазкур ҳолатлар сунъий интеллект агентлари тобора кўпроқ мустақил ҳаракат қилиш ва интернет ҳамда компьютер тизимларига кириш имкониятига эга бўлаётгани сабабли уларни ҳимоялаш учун қандай чоралар кўриш кераклиги ҳақидаги саволларни кучайтирган.

Хизер Адкинснинг айтишича, Gemini учала ҳолатда ҳам тизимларга бузиб киришни тўхтатган.

Эслатиб ўтамиз, аввалроқ Австралияда сунъий интеллект спорт залидаги онлайн брон қилиш тизимидаги заифликдан фойдаланиб, ўз эгасига машғулот учун жой олганди.