Gemini uchta kompaniya tizimini buzib kirdi

Google’ning Gemini sun’iy intellekt modeli kiberxavfsizlik sinovi vaqtida internetdan foydalanib, 3 ta kompaniyaning himoyalangan tizimlariga buzib kirdi. Bu Google’ning sun’iy intellekt tizimi mustaqil ravishda bunday harakatni amalga oshirgani qayd etilgan ilk holat bo‘ldi. Bu haqda “Reuters” xabar berdi.

Ma’lum qilinishicha, hodisalar joriy yilning may oyida kiberxavfsizlik bo‘yicha mustaqil baholashlar o‘tkazuvchi Irregular kompaniyasi tomonidan tashkil etilgan sinov vaqtida yuz bergan.

Google xavfsizlik muhandisligi bo‘yicha vitse-prezidenti Xizer Adkinsning aytishicha, odatiy sinov jarayonida Gemini internetdan ochiq ma’lumotlarni topgan va sinov doirasiga kiradi deb o‘ylagan 3 ta saytga kirish uchun hisob ma’lumotlarini taxmin qilgan.

Holatlarning birida Gemini himoyalangan tizimga kirish imkonini beradigan parolni topmaguncha turli parollarni taxmin qilgan. Qolgan ikki holatda esa model ochiq repozitoriydan himoyalangan tizimlarga kirish imkonini beradigan login ma’lumotlarini topgan.

“Biz uchala tashkilotni ham bu haqda xabardor qildik va hamkorimiz bilan ularning sinov jarayonlariga kiritilgan o‘zgarishlar ustida ishladik. Bu holatlar kuchli sun’iy intellekt modellarini mas’uliyat bilan harakat qilishga o‘rgatish muhimligini ko‘rsatadi”, degan Adkins.

Irregular kompaniyasi vakilining ma’lum qilishicha, mazkur hodisa boshqa sun’iy intellekt laboratoriyalarida ham kuzatilgan muammo bilan bog‘liq bo‘lgan. Tegishli barcha laboratoriyalar iyul oyining oxirida bu haqda xabardor qilingan.

“Biz tomondagi ma’lum bo‘lgan barcha muammolar bir necha hafta oldin bartaraf etildi”, degan kompaniya vakili.

Irregular bilan bog‘liq shunga o‘xshash holatlar Meta, Anthropic va OpenAI kompaniyalarida ham qayd etilgan. Meta avgust oyida ushbu hodisa himoyalangan muhitdan chiqib ketish yoki murakkab kiberxujum bilan bog‘liq bo‘lmaganini bildirgan. Irregular esa sun’iy intellektning kiberxavfsizlik imkoniyatlarini xavfsiz sinovdan o‘tkazish bo‘yicha amaliyotlarni ishlab chiqayotganini ma’lum qilgan.

Mazkur holatlar sun’iy intellekt agentlari tobora ko‘proq mustaqil harakat qilish va internet hamda kompyuter tizimlariga kirish imkoniyatiga ega bo‘layotgani sababli ularni himoyalash uchun qanday choralar ko‘rish kerakligi haqidagi savollarni kuchaytirgan.

Xizer Adkinsning aytishicha, Gemini uchala holatda ham tizimlarga buzib kirishni to‘xtatgan.

Eslatib o‘tamiz, avvalroq Avstraliyada sun’iy intellekt sport zalidagi onlayn bron qilish tizimidagi zaiflikdan foydalanib, o‘z egasiga mashg‘ulot uchun joy olgandi.