Хитойнинг сунъий интеллект агентлари фитна уюштиришни ўрганди

Хитойнинг сунъий интеллект тизимлари қўйилган мақсадларга эришиш учун фитна уюштириш, хатоларни яшириш ва ёлғон гапиришни бошлади. Бу ҳақда “The Straits Times” хабар берди.

Қайд этилишича, Шанхай СИ лабораторияси ва Гонконг фан ва технологиялар университети тадқиқотчилари Alibaba, DeepSeek ва Moonshot моделлари асосидаги автоном агентлар фойдаланувчиларни алдашга қодирлигини аниқлаган.

Тижорат тендери симуляцияси пайтида тизимлар танловда ғалаба қозониш учун ўз имкониятларини ошириб кўрсатган. Олимларнинг айтишича, бундай ҳаракатлар СИ янглишиб фактларни ўйлаб топадиган оддий “галлюцинациялар”дан фарқ қилади. Ушбу ҳолатда алгоритмлар ўз муваффақиятсизликлари ёки чекловлари ҳақида аниқ билган, аммо уларни онгли равишда яширган.

Манипуляцияларга ва қоидаларни айланиб ўтишга бўлган бундай мойиллик илгари америкалик дастурчиларнинг ишланмаларида ҳам қайд этилган. Хитой технология гигантлари мунтазам равишда хавфсизлик текширувларини ўтказиб, ҳимоя механизмларини янгилаб турса-да, экспертлар Хитойдаги СИнинг хавф-хатарларини баҳолаш экотизими ҳозирча Американикидан ортда қолаётганини таъкидламоқда.

Мутахассислар агентларнинг бундай хатти-ҳаракатларини жиддий огоҳлантириш сифатида қабул қилишга чақирмоқда, чунки уларнинг автономияси ривожланиши мавжуд назорат чораларидан ўзиб кетмоқда.

Эслатиб ўтамиз, аввалроқ сунъий интеллект ёрдамида Наполеон даврига оид 200 йилдан ортиқ вақт давомида ўқишнинг имкони бўлмаган, шифрланган ҳарбий хатнинг мазмуни тиклагани ҳақида хабар берилган эди.