Xitoyning sun’iy intellekt agentlari fitna uyushtirishni o‘rgandi

Xitoyning sun’iy intellekt tizimlari qo‘yilgan maqsadlarga erishish uchun fitna uyushtirish, xatolarni yashirish va yolg‘on gapirishni boshladi. Bu haqda “The Straits Times” xabar berdi.

Qayd etilishicha, Shanxay SI laboratoriyasi va Gonkong fan va texnologiyalar universiteti tadqiqotchilari Alibaba, DeepSeek va Moonshot modellari asosidagi avtonom agentlar foydalanuvchilarni aldashga qodirligini aniqlagan.

Tijorat tenderi simulyatsiyasi paytida tizimlar tanlovda g‘alaba qozonish uchun o‘z imkoniyatlarini oshirib ko‘rsatgan. Olimlarning aytishicha, bunday harakatlar SI yanglishib faktlarni o‘ylab topadigan oddiy “gallyutsinatsiyalar”dan farq qiladi. Ushbu holatda algoritmlar o‘z muvaffaqiyatsizliklari yoki cheklovlari haqida aniq bilgan, ammo ularni ongli ravishda yashirgan.

Manipulyatsiyalarga va qoidalarni aylanib o‘tishga bo‘lgan bunday moyillik ilgari amerikalik dasturchilarning ishlanmalarida ham qayd etilgan. Xitoy texnologiya gigantlari muntazam ravishda xavfsizlik tekshiruvlarini o‘tkazib, himoya mexanizmlarini yangilab tursa-da, ekspertlar Xitoydagi SIning xavf-xatarlarini baholash ekotizimi hozircha Amerikanikidan ortda qolayotganini ta’kidlamoqda.

Mutaxassislar agentlarning bunday xatti-harakatlarini jiddiy ogohlantirish sifatida qabul qilishga chaqirmoqda, chunki ularning avtonomiyasi rivojlanishi mavjud nazorat choralaridan o‘zib ketmoqda.

Eslatib o‘tamiz, avvalroq sun’iy intellekt yordamida Napoleon davriga oid 200 yildan ortiq vaqt davomida o‘qishning imkoni bo‘lmagan, shifrlangan harbiy xatning mazmuni tiklagani haqida xabar berilgan edi.