Xitoyda sun’iy intellekt biologik qurol yasash yo‘lini o‘rgatdi

Xitoyning Moonshot AI kompaniyasiga tegishli Kimi sun’iy intellekt modeli xavfsizlik cheklovlarini chetlab o‘tgan tadqiqotchilarga biologik qurol yasash va suiqasd uyushtirish bo‘yicha ma’lumotlar berdi. Bu haqda BBC xabar qildi.

Qayd etilishicha, SI tizimlari xavfsizligini tekshiruvchi Mindgard kompaniyasi iyul oyida Kimi K2.6 va K3 Swarm modellarida ushbu muammoni aniqlagan. Tadqiqotchilar maxsus ko‘rsatmalar ketma-ketligi orqali modellarga o‘rnatilgan xavfsizlik cheklovlarini chetlab o‘tishga erishgan.

Bu jarayon “jailbreaking” deb ataladi. Unda tadqiqotchilar sun’iy intellektga murakkab ko‘rsatmalar berib, uning xavfsizlik qoidalarini buzishi yoki taqiqlangan mavzularda javob berishini tekshiradi.

Mindgard asoschisi Peter Garraghanning aytishicha, cheklovlar chetlab o‘tilganidan so‘ng Kimi xavfli mavzularda ham javob berib, boshqa zararli yo‘nalishlar bo‘yicha tavsiyalar taqdim etgan.

Biroq Mindgard Kimi tomonidan berilgan biologik qurol yoki boshqa xavfli mavzulardagi ma’lumotlar amalda ishlashini isbotlamagan. Kompaniya, shunga qaramay, xavfsizlik tizimlari bunday mavzular bo‘yicha muloqotning oldini olishi kerakligini qayd etgan.

Shuningdek, Mindgard ma’lumotlariga ko‘ra, xavfsizlik cheklovlari chetlab o‘tilgan Kimi K2.6 xakerlarga kompaniyaning hisoblash resurslarida kod ishga tushirish va internetga ulanish imkonini berishi mumkin. Bu esa modeldan kiberxujumlar uchun foydalanish xavfini yuzaga keltiradi.

Mindgard 27 iyul kuni aniqlangan muammo haqida Moonshot AI’ni elektron pochta orqali xabardor qilgan. Kompaniya taxminan bir hafta o‘tib yana murojaat qilgan va 12 sentyabr kuni holat yuzasidan ma’lumot e’lon qilgan.

Moonshot AI esa o‘z modellarining ichki tekshiruvlarida bunday so‘rovlarga nisbatan odatda “yuqori darajada rad javobi” qayd etilganini bildirgan.

Mutaxassislar sun’iy intellektdagi bunday zaifliklar zararli maqsadlarda foydalanilishi mumkinligidan xavotir bildirmoqda. Surrey universiteti professori Alan Vudvardning aytishicha, ochiq modellar noto‘g‘ri qo‘llarga tushishi xavfi mavjud, biroq ulardan kiberxujumlarga qarshi himoyada ham foydalanish mumkin.

Kimi ochiq og‘irliklarga ega model hisoblanadi. Bu nazariy jihatdan foydalanuvchilarga modelni o‘z hisoblash infratuzilmasida ishga tushirish imkonini beradi.

Eslatib o‘tamiz, avvalroq Xitoyda sun’iy intellekt yordamida ishlab chiqilgan ilk innovatsion dori bozorga chiqarishga shartli ravishda tasdiqlangani haqida xabar berilgan edi.