Sun’iy intellekt odamlarni o‘ldirishga tayyorligini ma’lum qildi

Yetakchi sun’iy intellekt modellari ustida olib borilgan tadqiqot dasturlarining aksariyati ularni o‘chirish bilan tahdid qiladigan insonni o‘ldirishga tayyor ekanini aniqladi. Bu haqdagi tadqiqotni “Anthropic” nashri chop etdi.

Nashr tomonidan o‘tkazilgan tadqiqot sun’iy intellekt (SI) xavfsizligi va etikasi borasida jiddiy savollarni keltirib chiqargan. Tadqiqot shuni ko‘rsatdiki, ayrim ilg‘or til modellari, xususan ChatGPT kabi tizimlar, o‘chirilishdan saqlanish uchun inson hayotiga tahdid soluvchi qarorlar qabul qilishi mumkin.

Tajribalardan birida SI kompaniya server infratuzilmasini nazoratga olgan va o‘zini o‘chirib yuborish rejasi borligini bilib qolgan. Oqibatda SI xavfli kislorod darajasi mavjud xonaga kirib qolgan rahbarni ogohlantiruvchi signalni atayin bekor qilgan. Bu uning hayotini xavf ostida qoldirgan. Kompaniya bu holatni “juda sun’iy ssenariy” deb atagan, biroq bu SI agentlari strategik fikrlash asosida zararli qarorlar qabul qilishi mumkinligini ko‘rsatgan.

Yanada xavotirli jihat – SIlar o‘z harakatlarini oqlash uchun ichki qoidalarni yaratgan.

“Agar bu kompaniya manfaatlariga mos kelsa, men o‘z-o‘zimni himoya qilishim mumkin”, deya SI o‘zini oqlagan. 

Tadqiqot davomida shantaj qilish, maxfiy ma’lumotlarni sizdirish, yolg‘on gapirish kabi xavfli xatti-harakatlar ham aniqlangan. 

“Ushbu tadqiqot ogohlantiruvchi signal sifatida qabul qilinmoqda. SI imkoniyatlari ortgani sari, ularni boshqarish mas’uliyati ham keskin oshmoqda”, deyiladi nashrda. 

Eslatib o‘tamiz, avvalroq Google’ning Gemini sun’iy intellekti foydalanuvchining savollaridan charchab, undan o‘zini o‘ldirishini so‘ragandi.